Cerca de una decena de menores han sido identificados por la Policía presuntamente responsables de montar y difundir imágenes falsas en las que, mediante una herramienta de inteligencia artificial, se desnuda a casi una treintena de chicas. También menores de edad con las que compartían aula, patio o cercanía en la localidad extremeña de Almendralejo. Los hechos en estos momentos están siendo investigados por la Policía.
La aplicación en cuestión se llama ClothOff y puede descargarse desde el canal de mensajería Telegram. Bajo el lema “under dress for free”, está causando más de un quebradero de cabeza a policía, familias y jóvenes de Almendralejo. Jóvenes investigados por hacer uso de esta app para desnudar a varias de sus compañeras de clase y conocidas de la localidad. Los hechos se produjeron hace varios meses. De hecho, muchas de las víctimas eran conocedoras de ello desde el pasado mes de junio pero prefirieron guardar silencio.
Varios menores investigados tras desnudar a compañeras mediante Inteligencia Artificial
La denuncia de los padres de una de las menores afectadas ha hecho saltar todas las alarmas y ha activado las investigaciones policiales. Pero no han sido los únicos: varias madres denunciaron la difusión de imágenes falsas de sus hijas en las que se simula su desnudez.
Los menores tienen edades entre los 12 y los 14 años. Con su comportamiento habrían atentado contra el derecho a la intimidad personal, el honor y la propia imagen. Asimismo, podrían haber incurrido en un delito de difusión de pornografía infantil. Al ser menores de 16 años, muchos de los presuntos culpables tendrán que enfrentarse a medidas de libertad vigilada, ingresar en un centro cerrado o a varias jornadas de reeducación. La difusión de las imágenes y los vídeos se producían a través de dos grupos de WhatsApp. Por un lado entre los jóvenes investigados se producía el intercambio de las fotos de las víctimas. Y en el otro grupo se difundía entre otros habitantes de Almendralejo.
Por su parte, como suele ocurrir con muchas de las aplicaciones que nos descargamos en nuestro smarthphone, la empresa desestima cualquier tipo de responsabilidad. En la “letra pequeña” ya se expone que “usted es el único responsable de las imágenes generadas”. O “usted es responsable de no usar la aplicación para fines ilegales”. Con lo que los autores habrían aceptado estos epígrafes para la descarga de la aplicación. De esta manera serían los únicos responsables de las imágenes generadas por inteligencia artificial. Aunque no sólo de la creación de las mismas o la simulación de los vídeos falsos sino responsables de su difusión.
Marco legal y ético de muchas herramientas de IA
Pese a que la Unión Europea ya propuso en 2021 la creación del primer marco regulador para la Inteligencia Emocional, aún son muchísimas las dudas que genera el uso de la propia inteligencia artificial y su impacto en la vida real de las personas. En junio de este año también se propuso crear una ley que marcase ciertos niveles de responsabilidad. O incluso crear diferentes categorías según el nivel de riesgo al que se enfrenta un usuario cuando emplea IA. Dicha ley deberá estar operativa para finales de 2023. Hasta entonces es la inteligencia humana la que debe primar y lidiar con muchas lagunas que la artificial nos pone frente a los ojos sin saber cómo manejarla en realidad.
La inteligencia artificial puede tener muchos usos. Desde la transcripción y traducción de textos hasta otros muchos encaminados a mejorar la atención sanitaria de los pacientes. Usos médicos y tecnológicos, se entiende, para hacernos la vida más fácil y mejor. Los miedos que se producen en torno a ella son, en gran parte, debido al desconocimiento que se tiene acerca de ella. Muchos expertos afirman que no es que haya llegado para quedarse, sino que está aquí, convive con nosotros y se quedarán atrás aquellos que no consigan adaptarla a su vida.
Pero esta inteligencia también está siendo capaz de ponernos a prueba como personas, desde el punto de vista más ético y honrado. A adultos y adolescentes. Estos últimos, necesitados en ocasiones de límites y protocolos que les muestren que aquello que hacen o quieren hacer, roza lo prohibido y lo “no debido”.
Falta regulación, sí. Falta control sobre los dispositivos que usan indiscriminadamente nuestros menores, también. Y aunque todo el tema de la inteligencia emocional, la inteligencia artificial y las nuevas tecnologías quede regulada por una ley a nivel europeo, está en nuestras bases, en nuestras manos y en nuestra coherencia de a pie, enseñar a nuestros menores que ciertos comportamientos no están bien. Tal vez no sea nada descabellado la educación sexual en las aulas. La educación sexual en casa. Dejar de hablar con tabúes con nuestros adolescentes y, más aún, con nuestros niños y niñas. Porque lo que se lleven después y lo que tengan claro serán las herramientas que utilizarán con los demás en el futuro. Serán inteligentes emocionalmente, socialmente y un ejemplo para las generaciones que vengan después.
