Ciencia y Tecnología
Usar una app de IA para desnudar a una compañera de instituto tiene precio: 2.000 euros de multa para los padres del menor
La Agencia Española de Protección de Datos (AEPD) ha impuesto la primera sanción en España por la creación y difusión de imágenes falsas generadas con inteligencia artificial. Los padres de un menor han sido multados con 2.000 euros, reducidos a 1.200 por pronto pago, tras un caso que ha marcado un precedente en la protección de datos de menores en Europa.
Lo que ha pasado. Un menor utilizó la aplicación ClothOff para crear una imagen falsa de una compañera del instituto desnuda. La herramienta de IA toma el rostro de la víctima y lo superpone sobre un cuerpo sin ropa, teniendo en cuenta características físicas como la complexión o el tono de piel. La imagen fue posteriormente difundida a través de redes sociales y grupos de mensajería.
El origen del caso. Aunque la resolución pública no identifica a las partes implicadas, la AEPD ha confirmado que se trata de uno de los casos ocurridos en Almendralejo, Badajoz, en septiembre de 2023. Entonces, saltó a la luz que al menos 20 menores habían sido víctimas de montajes similares que circulaban por los móviles del municipio. Las imágenes llegaron incluso a portales como OnlyFans y páginas pornográficas, según recoge la resolución.
Por qué es importante. Esta es la primera vez que una autoridad de protección de datos en la Unión Europea sanciona por difusión de un deepfake. La AEPD abrió el expediente de oficio el 20 de septiembre de 2023, apenas dos días después de que el caso trascendiera públicamente, y pudo conocer la identidad de los responsables gracias a la colaboración con la Fiscalía. El regulador ha actuado basándose en que la imagen de una persona es un dato personal que cuenta con protección reforzada cuando se trata de menores.
El debate sobre la sanción. La cuantía de la multa ha generado cierto debate. Jorge García Herrero, abogado y delegado de protección de datos, cuenta a El País que “muy pocos riesgos relacionados con la IA provocan tanta alarma social como la creación de deepfakes sexuales no consentidos de menores” y cuestiona que la sanción resulte ‘poco ejemplarizante’. Por otro lado, el jurista Borja Adsuara, cuenta al medio que este es “un delito contra la intimidad, que va por la vía penal”, y se pregunta qué sentido tiene imponer una multa administrativa cuando el caso ya ha sido sentenciado judicialmente.
La vía paralela. Este procedimiento administrativo de la AEPD es independiente del proceso penal que ya se inició contra los responsables, que tenían entre 12 y 14 años en el momento de los hechos. En la vía judicial se impuso un año de libertad vigilada a 15 menores por manipular imágenes de compañeras. Según Miriam Al Adib, madre de una de las víctimas, “hubo una sentencia ejemplar según la cual los niños están un año en libertad vigilada y tienen que hacer un curso de formación”.
Y ahora qué. Se espera que la AEPD publique en los próximos meses más multas similares relacionadas con los hechos de Almendralejo, dado que hubo al menos dos decenas de víctimas. La resolución deja fuera de responsabilidades a los creadores de ClothOff, una aplicación diseñada específicamente para generar imágenes de mujeres desnudas sin su consentimiento y que actualmente está cerrada. Sus creadores se enfrentan a un proceso judicial en Estados Unidos. Al Adib advierte de que estos casos representan “una pandemia de violencia tremenda” que exige estrategias políticas coordinadas y protocolos de protección efectivos para las víctimas.
Imagen de portada | Swello
En Xataka | Ya tenemos la primera polémica de estas Navidades: Coca-Cola ha vuelto a hacer un anuncio mediante IA
–
La noticia
Usar una app de IA para desnudar a una compañera de instituto tiene precio: 2.000 euros de multa para los padres del menor
fue publicada originalmente en
Xataka
por
Antonio Vallejo
.
La Agencia Española de Protección de Datos (AEPD) ha impuesto la primera sanción en España por la creación y difusión de imágenes falsas generadas con inteligencia artificial. Los padres de un menor han sido multados con 2.000 euros, reducidos a 1.200 por pronto pago, tras un caso que ha marcado un precedente en la protección de datos de menores en Europa.
Lo que ha pasado. Un menor utilizó la aplicación ClothOff para crear una imagen falsa de una compañera del instituto desnuda. La herramienta de IA toma el rostro de la víctima y lo superpone sobre un cuerpo sin ropa, teniendo en cuenta características físicas como la complexión o el tono de piel. La imagen fue posteriormente difundida a través de redes sociales y grupos de mensajería.
En Xataka
La IA se ha cargado una de las mejores herramientas en la selección de personal para detectar talento: las cartas de presentación
El origen del caso. Aunque la resolución pública no identifica a las partes implicadas, la AEPD ha confirmado que se trata de uno de los casos ocurridos en Almendralejo, Badajoz, en septiembre de 2023. Entonces, saltó a la luz que al menos 20 menores habían sido víctimas de montajes similares que circulaban por los móviles del municipio. Las imágenes llegaron incluso a portales como OnlyFans y páginas pornográficas, según recoge la resolución.
Por qué es importante. Esta es la primera vez que una autoridad de protección de datos en la Unión Europea sanciona por difusión de un deepfake. La AEPD abrió el expediente de oficio el 20 de septiembre de 2023, apenas dos días después de que el caso trascendiera públicamente, y pudo conocer la identidad de los responsables gracias a la colaboración con la Fiscalía. El regulador ha actuado basándose en que la imagen de una persona es un dato personal que cuenta con protección reforzada cuando se trata de menores.
El debate sobre la sanción. La cuantía de la multa ha generado cierto debate. Jorge García Herrero, abogado y delegado de protección de datos, cuenta a El País que “muy pocos riesgos relacionados con la IA provocan tanta alarma social como la creación de deepfakes sexuales no consentidos de menores” y cuestiona que la sanción resulte ‘poco ejemplarizante’. Por otro lado, el jurista Borja Adsuara, cuenta al medio que este es “un delito contra la intimidad, que va por la vía penal”, y se pregunta qué sentido tiene imponer una multa administrativa cuando el caso ya ha sido sentenciado judicialmente.
En Xataka
Jeff Bezos asegura que hay un tipo de empleado que nunca podrá ser reemplazado por una IA: los inventores
La vía paralela. Este procedimiento administrativo de la AEPD es independiente del proceso penal que ya se inició contra los responsables, que tenían entre 12 y 14 años en el momento de los hechos. En la vía judicial se impuso un año de libertad vigilada a 15 menores por manipular imágenes de compañeras. Según Miriam Al Adib, madre de una de las víctimas, “hubo una sentencia ejemplar según la cual los niños están un año en libertad vigilada y tienen que hacer un curso de formación”.
Y ahora qué. Se espera que la AEPD publique en los próximos meses más multas similares relacionadas con los hechos de Almendralejo, dado que hubo al menos dos decenas de víctimas. La resolución deja fuera de responsabilidades a los creadores de ClothOff, una aplicación diseñada específicamente para generar imágenes de mujeres desnudas sin su consentimiento y que actualmente está cerrada. Sus creadores se enfrentan a un proceso judicial en Estados Unidos. Al Adib advierte de que estos casos representan “una pandemia de violencia tremenda” que exige estrategias políticas coordinadas y protocolos de protección efectivos para las víctimas.
Imagen de portada | Swello
En Xataka | Ya tenemos la primera polémica de estas Navidades: Coca-Cola ha vuelto a hacer un anuncio mediante IA
– La noticia
Usar una app de IA para desnudar a una compañera de instituto tiene precio: 2.000 euros de multa para los padres del menor
fue publicada originalmente en
Xataka
por
Antonio Vallejo
.
