El uso de la IA para manipular imágenes de menores, un problema en aumento
El último suceso de este tipo se ha dado en la localidad zaragozana de la Almunia de Doña Godina. En el teléfono 017 ayudan a hacer desaparecer las fotografías
El aumento del uso de la Inteligencia Artificial (IA) tiene sus puntos negativos. Uno de ellos es la manipulación de imágenes simulando desnudos, como ha pasado en varios centros educativos del país. De hecho, esta misma semana se ha conocido un suceso de esas características en la localidad zaragozana de La Almunia de Doña Godina(se abre en una nueva ventana).
En este municipio, la Guardia Civil investiga varias denuncias por la difusión de fotografías de menores de la localidad con el uso de IA para desnudarlas. Al parecer, los menores que han manipulado y difundido las imágenes son de primero y segundo de la ESO, y las víctimas pertenecen a varios centros educativos de la localidad.
En la mayoría de estos casos las víctimas son chicas menores de edad, lo que subraya el claro sesgo machista que tienen esas aplicaciones. "Están creadas para aplicar a cuerpos desnudos femeninos", confirma Carlos Puente, técnico de Ciberseguridad para Menores de INCIBE.
Tener y difundir esas imágenes acarrea graves consecuencias emocionales para las víctimas y las familias. A esto se suma el hecho de que se trata de un delito. "Deja de ser broma en el momento en el que hay un perjudicado. Cuando hablamos de menores desnudos siempre es un delito. No se puede tener ni real ni realista ninguna imagen de un menor desnudo", recuerda el portavoz de la Policía Nacional Cristian Aventín.
El Instituto Nacional de Ciberseguridad cuentan con un teléfono, el 017, donde pueden ayudar a que esas imágenes manipuladas desaparezcan con la colaboración de la Fiscalía y las Fuerzas y Cuerpos de Seguridad que tiran abajo la URL de la fotografía.
En 2023, esta línea recibió 80.000 llamadas, el 21% relacionadas con menores y privacidad.