Ciencia y Tecnología
Desnudos falsos creados con IA desatan mortal ola de extorsión digital
Los casos de extorsión por imágenes falsas generadas vía inteligencia artificial afecta principalmente a menores, víctimas de chantaje sexual que en ocasiones ha derivado en consecuencias fatídicas.
Los casos de extorsión por imágenes falsas generadas vía inteligencia artificial afecta principalmente a menores, víctimas de chantaje sexual que en ocasiones ha derivado en consecuencias fatídicas.
Tras el suicidio de un adolescente en Kentucky, sur de Estados Unidos, sus padres descubrieron que había recibido mensajes de texto amenazantes exigiéndole 3.000 dólares a cambio de suprimir una imagen de él desnudo generada por inteligencia artificial (IA).
La tragedia de Elijah Heacock, de 16 años, muestra el creciente número de casos de sextorsión contra menores en todo el mundo, especialmente con la rápida proliferación de aplicaciones que desnudan digitalmente a una persona o generan imágenes sexualizadas.
“Quienes persiguen a nuestros hijos están bien organizados”, dijo John Burnett, el padre del chico, en una entrevista con CBS News. “Están bien financiados y son despiadados. No necesitan que la foto sea real, pueden generar lo que quieran y luego usarlo para chantajear a menores”, afirmó.
La muerte de Elijah Heacock provocó una investigación sobre el chantaje sexual mediante IA, un método hasta ahora utilizado contra celebridades.
El FBI reportó un “aumento espantoso” de casos de sextorsión contra menores en Estados Unidos, cuyas víctimas suelen ser chicos de entre 14 y 17 años. Esto ha provocado una “cifra alarmante de suicidios”, según la policía federal.
Un negocio lucrativo
Un estudio reciente de Thorn, una organización sin fines de lucro dedicada a la prevención de la explotación infantil en línea, determinó que el 6 % de los adolescentes estadounidenses han sido víctimas directas de fotos o videos de desnudos generados por IA.
Según la Internet Watch Foundation (IWF) británica, que lucha contra el contenido de explotación sexual en línea, “mediante IA generativa se pueden producir imágenes lo suficientemente convincentes como para ser dañinas, incluso tan dañinas como las imágenes reales en algunos casos”.
La IWF identificó una “guía para pedófilos” que fomenta explícitamente el uso de sitios de desnudez para generar contenido con el fin de chantajear a menores. El autor de la guía afirmó haber chantajeado con éxito a niñas de 13 años.
Un análisis de 85 sitios web que venden servicios de desnudez reveló que podrían tener un valor conjunto de hasta 36 millones de dólares al año.
El análisis de Indicator, una publicación estadounidense que investiga el engaño digital, estima que 18 de los sitios generaron entre 2,6 y 18,4 millones de dólares durante el semestre hasta mayo.
La mayoría de los sitios dependen de la infraestructura tecnológica de Google, Amazon y Cloudflare para operar y siguen siendo rentables a pesar de las medidas represivas de las plataformas y los organismos reguladores, según Indicator.
Acciones contra un mal creciente
La amenaza no se limita a Estados Unidos: una encuesta reciente de la ONG Save the Children mostró que uno de cada cinco jóvenes en España había sido víctima de imágenes de desnudos falsos compartidas en línea sin su consentimiento.
A principios de este año, la fiscalía española declaró que estaba investigando a tres menores en la ciudad de Puertollano, en Castilla-La Mancha, por presuntamente hostigar a sus compañeros y profesores con contenido pornográfico que generaban por IA y distribuían en su escuela.
En Reino Unido, el gobierno aprobó este año una ley que penaliza la creación de “deepfakes” sexualmente explícitos, con penas de hasta dos años de prisión para los autores.
Legislación similar fue promulgada en mayo en Estados Unidos por el presidente Donald Trump.
Por su parte, Meta Group (Facebook, Instagram, WhatsApp) también anunció que demandó a una empresa de Hong Kong responsable de una aplicación de desnudez llamada Crush AI, que, según afirma, eludió repetidamente las normas del gigante tecnológico para publicar anuncios en sus plataformas.
Pero los investigadores creen que estas aplicaciones impulsadas por IA resisten a pesar de estas medidas. “Siguen surgiendo nuevas herramientas de desnudez”, señala Indicator, calificándolas de “adversarios maliciosos y tenaces”.
ee (afp, cbs news)
Deutsche Welle: DW.COM – Ciencia y Tecnologia