![\"La](\"https:\/\/i.blogs.es\/1bb7a9\/aguja\/1024_2000.jpeg\")
\n <\/p>\n\n \n <\/p>\n
La era de la inteligencia artificial est\u00e1 haciendo que todo vaya muy r\u00e1pido muy deprisa. Empresas como Mercadona, Google o Anthropic ya apuntan que la gran mayor\u00eda de su c\u00f3digo lo escribe una IA<\/a>, Mozilla echa flores a Mythos<\/a> y Jensen Huang est\u00e1 entusiasmado con las bondades de la IA<\/a> y todo lo que nos permite crear<\/a>. Entre esas creaciones hay de todo, como por ejemplo una enorme cantidad de material de abuso sexual infantil.<\/p>\n <\/p>\n Los investigadores piden ayuda, y ya te adelanto que hay cosas que no son f\u00e1ciles de asimilar.<\/p>\n En corto<\/strong>. Este mi\u00e9rcoles, Bloomberg<\/a> public\u00f3 un reportaje que condensa seis meses de investigaci\u00f3n en el que se han enfocado en la r\u00e1pida proliferaci\u00f3n de material de abuso sexual infantil generado por inteligencia artificial. No es algo que extra\u00f1e si tenemos en cuenta la enorme cantidad de informaci\u00f3n falsa con la que ya hay que lidiar d\u00eda a d\u00eda tanto en forma de texto como en im\u00e1genes cada vez m\u00e1s realistas<\/a> y hasta en v\u00eddeo<\/a>, pero s\u00ed hay un matiz importante.<\/p>\n <\/p>\n Mientras en el caso de las fake news<\/em><\/a> es la prensa y la gente quien debe aterrizarlo con sentido com\u00fan para no tragarse el bulo, perdiendo tiempo en el proceso, en el caso de este contenido generado por IA es la polic\u00eda e investigadores quienes deben perder su tiempo para descartar que se trate de informaci\u00f3n veraz. Y, mientras est\u00e1n haciendo eso, dejan de investigar casos de abuso sexual infantil, otro tipo de maltrato o desapariciones que s\u00ed son reales.<\/p>\n <\/p>\n Las Ray-Ban Meta graban cuando te las quitas. Y contratistas en Kenia ven a sus usuarios desnudos sin que se enteren<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n Las cifras<\/strong>. Asustan, desde luego. En el reportaje se apunta que el Centro Nacional para Menores Desaparecidos y Explotados recibi\u00f3 m\u00e1s de 1,5 millones de denuncias durante 2025 que ten\u00edan un componente de inteligencia general generativa. Entre ellas, m\u00e1s de 7.000 informes sobre usuarios que generaban o pose\u00edan material de abuso sexual infantil generado con IA y m\u00e1s de 30.000 casos de personas que generaban ese tipo de contenido. Es una burrada.<\/p>\n <\/p>\n Por otro lado, la IWF (Internet Watch Foundation) evalu\u00f3<\/a> m\u00e1s de 8.000 im\u00e1genes y v\u00eddeos generados por IA que representaban de forma muy realista actos de abuso sexual infantil. Hab\u00eda 3.443 v\u00eddeos frente a los 13 registrados en 2024. En total, un aumento del\u00a026.385%<\/a>. El crecimiento es importante y la propia IWF apunt\u00f3 en el informe que el 65% de ese contenido de v\u00eddeo generado por IA muestra hechos clasificados como de \u2018Categor\u00eda A\u2019, la m\u00e1s grave dentro de este tipo de material.<\/p>\n <\/p>\n Casos<\/strong>. No pienses que son casos de la dark web<\/a>, ya que se han descubierto chatbots de IA en la web abierta que alojan estas im\u00e1genes e incitan a crearlas. \u00bfDe qu\u00e9 tipo de contenido estamos hablando? Aqu\u00ed viene lo delicado. Bloomberg apunta unos ejemplos que forman parte de esos miles de casos m\u00e1s complejos que se est\u00e1n procesando actualmente por parte de las autoridades y donde hay\u2026 de todo.<\/p>\n <\/p>\n Un hombre que us\u00f3 las caras de ni\u00f1os de su barrio para generar contenido con ellos manteniendo relaciones sexuales con sus madres o abuelas, otro que produjo im\u00e1genes s\u00e1dicas de ni\u00f1os peque\u00f1os y beb\u00e9s, otro hombre acusado de alterar la imagen de una ni\u00f1a prep\u00faber para aumentarle el pecho y colgar las im\u00e1genes en Onlyfans<\/a>, un cura que pas\u00f3 a\u00f1os recopilando material y luego cre\u00f3 a\u00fan m\u00e1s gracias a la IA o un soldado del ej\u00e9rcito que sexualizaba con la IA im\u00e1genes de ni\u00f1os que conoc\u00eda.<\/p>\n <\/p>\n El uso de inteligencia artificial para crear porno se est\u00e1 expandiendo. Y hay quien ve un (pol\u00e9mico) negocio<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n De d\u00f3nde salen las im\u00e1genes de ni\u00f1os<\/strong>. Facebook e Instagram. Esa es la respuesta sencilla. Seg\u00fan Joe O\u2019Barr, uno de los investigadores que ha prestado voz en la investigaci\u00f3n de Bloomberg, \u201cla gente roba im\u00e1genes de Facebook e Instagram, cosas que los padres publican libremente, y\u00a0las cuelgan en plataformas de inteligencia artificial<\/a>\u201d.<\/p>\n <\/p>\n Un patr\u00f3n que se ha descubierto es que muchos crean im\u00e1genes que involucran ni\u00f1os que conocen en el mundo real, pudiendo cumplir de este modo sus fantas\u00edas. Por ejemplo, un caso de un hombre que tom\u00f3 fotos de la hija de seis a\u00f1os de su pareja, las manipul\u00f3 con la IA y luego las colg\u00f3 junto a im\u00e1genes propias desnudo en Onlyfans.<\/p>\n <\/p>\n Qu\u00e9 hacen las plataformas<\/strong>. Esas mismas plataformas en las que se alojan las im\u00e1genes no se quedan de brazos cruzados. Los investigadores conf\u00edan en que esas mismas compa\u00f1\u00edas dar\u00e1n la voz de alerta cuando encuentren algo, pero hay un problema: Google, xAI, Meta u OnlyFans est\u00e1n delegando la tarea de supervisi\u00f3n a la IA. Se han reportado numerosos casos de humanos que no soportan el marcar ese tipo de contenido<\/a> y es por ello que, o contratan en pa\u00edses como Kenia, o directamente delegan en la IA.<\/p>\n <\/p>\n El problema es la cantidad de falsos positivos que encuentra la IA y que terminan sobrecargando el \u2018buz\u00f3n\u2019 de los investigadores. Un investigador de Carolina del Norte apunta que ha visto un aumento de 11 veces en esas \u2018pistas\u2019 que recibe su oficina, y s\u00f3lo el a\u00f1o pasado el volumen se duplic\u00f3 hasta alcanzar los 52.000 informes. Apunta que cualquier humano dir\u00eda \u201cesto no es contenido que investigar\u201d, pero como la IA no lo sabe, env\u00eda de todo: desde cosas serias a investigar hasta simples insultos.<\/p>\n Insoportable<\/strong>. \u201cCuantos m\u00e1s casos tenemos para investigar, m\u00e1s dif\u00edcil es tratar cada caso de manera individual\u201d, asegura uno de los investigadores. Desde la propia Meta se ha reconocido que su sistema no es perfecto y agrega \u201calgo de ruido\u201d a la red de los investigadores. Como ya dec\u00edamos antes, es una enorme cantidad de material que impide que los investigadores realicen su trabajo en casos reales de menores de los que se est\u00e1 abusando o que est\u00e1n desaparecidos.<\/p>\n <\/p>\n \u201cEstamos haciendo este trabajo masivo con la misma cantidad de recursos que ten\u00edamos hace diez a\u00f1os. No podemos soportarlo m\u00e1s y no queremos echar de menos a un ni\u00f1o de verdad del que se est\u00e9 abusando sexualmente\u201d, comenta un agente a Bloomberg.<\/p>\n Alibaba tiene nueva IA Open Source para generar v\u00eddeos. El problema es que se est\u00e1 usando para generar deepfakes pornogr\u00e1ficos<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n Legisladores, a ponerse las pilas<\/strong>. El trabajo de estos investigadores depende del Departamento de Justicia y de una financiaci\u00f3n que consiste en unos 30 millones de d\u00f3lares para 61 grupos de trabajo estatales. Apuntan que es una cifra muy peque\u00f1a y, para contextualizar, es lo que el FBI gasta en un d\u00eda. Denuncian que, a pesar de la avalancha de informes de material de abuso sexual infantil, la financiaci\u00f3n se ha mantenido sin cambios.<\/p>\n <\/p>\n Hay otros problemas como el hecho de que el ritmo de la legislaci\u00f3n vaya a la zaga<\/a> de la tecnolog\u00eda<\/a> o que los delincuentes se est\u00e9n envalentonando, precisamente, porque saben que la cantidad de informaci\u00f3n verdadera y falsa est\u00e1 sepultando a los investigadores. Porque, si antes un depredador infantil pod\u00eda llegar a dos o tres ni\u00f1os, con la IA podr\u00eda llegar a 40 o 50 ni\u00f1os. \u201cEs, b\u00e1sicamente, como pescar con dinamita\u201d, apunta un investigador retirado que estuvo 30 a\u00f1os en una brigada de lucha por la seguridad infantil.<\/p>\n <\/p>\n El reportaje de Bloomberg<\/a> es dur\u00edsimo, pero al final representa la otra cara de una tecnolog\u00eda que es extremadamente joven y que no ha tardado nada en democratizarse. Para lo bueno y, como vemos, para lo peor. Ya lo vimos en una forma incipiente de esto como los deep fakes<\/em><\/a> que las propias actrices vulneradas calificaron como \"una causa perdida<\/a>\".<\/p>\n <\/p>\n En Xataka | En ocasiones, las IA er\u00f3ticas son IA. Y en ocasiones, son un se\u00f1or de Kenia que cobra dos d\u00f3lares por hora<\/a><\/p>\n – \u00a0La era de la inteligencia artificial est\u00e1 haciendo que todo vaya muy r\u00e1pido muy deprisa. Empresas como Mercadona, Google o Anthropic ya apuntan que la gran mayor\u00eda de su c\u00f3digo lo escribe una IA, Mozilla echa flores a Mythos y Jensen Huang est\u00e1 entusiasmado con las bondades de la IA y todo lo que nos permite crear. Entre esas creaciones hay de todo, como por ejemplo una enorme cantidad de material de abuso sexual infantil.<\/p>\n Los investigadores piden ayuda, y ya te adelanto que hay cosas que no son f\u00e1ciles de asimilar.<\/p>\n En corto. Este mi\u00e9rcoles, Bloomberg public\u00f3 un reportaje que condensa seis meses de investigaci\u00f3n en el que se han enfocado en la r\u00e1pida proliferaci\u00f3n de material de abuso sexual infantil generado por inteligencia artificial. No es algo que extra\u00f1e si tenemos en cuenta la enorme cantidad de informaci\u00f3n falsa con la que ya hay que lidiar d\u00eda a d\u00eda tanto en forma de texto como en im\u00e1genes cada vez m\u00e1s realistas y hasta en v\u00eddeo, pero s\u00ed hay un matiz importante.<\/p>\n Mientras en el caso de las fake news es la prensa y la gente quien debe aterrizarlo con sentido com\u00fan para no tragarse el bulo, perdiendo tiempo en el proceso, en el caso de este contenido generado por IA es la polic\u00eda e investigadores quienes deben perder su tiempo para descartar que se trate de informaci\u00f3n veraz. Y, mientras est\u00e1n haciendo eso, dejan de investigar casos de abuso sexual infantil, otro tipo de maltrato o desapariciones que s\u00ed son reales.<\/p>\n En Xataka<\/p>\n Las Ray-Ban Meta graban cuando te las quitas. Y contratistas en Kenia ven a sus usuarios desnudos sin que se enteren<\/p>\n Las cifras. Asustan, desde luego. En el reportaje se apunta que el Centro Nacional para Menores Desaparecidos y Explotados recibi\u00f3 m\u00e1s de 1,5 millones de denuncias durante 2025 que ten\u00edan un componente de inteligencia general generativa. Entre ellas, m\u00e1s de 7.000 informes sobre usuarios que generaban o pose\u00edan material de abuso sexual infantil generado con IA y m\u00e1s de 30.000 casos de personas que generaban ese tipo de contenido. Es una burrada.<\/p>\n Por otro lado, la IWF (Internet Watch Foundation) evalu\u00f3 m\u00e1s de 8.000 im\u00e1genes y v\u00eddeos generados por IA que representaban de forma muy realista actos de abuso sexual infantil. Hab\u00eda 3.443 v\u00eddeos frente a los 13 registrados en 2024. En total, un aumento del\u00a026.385%. El crecimiento es importante y la propia IWF apunt\u00f3 en el informe que el 65% de ese contenido de v\u00eddeo generado por IA muestra hechos clasificados como de \u2018Categor\u00eda A\u2019, la m\u00e1s grave dentro de este tipo de material.<\/p>\n Casos. No pienses que son casos de la dark web, ya que se han descubierto chatbots de IA en la web abierta que alojan estas im\u00e1genes e incitan a crearlas. \u00bfDe qu\u00e9 tipo de contenido estamos hablando? Aqu\u00ed viene lo delicado. Bloomberg apunta unos ejemplos que forman parte de esos miles de casos m\u00e1s complejos que se est\u00e1n procesando actualmente por parte de las autoridades y donde hay\u2026 de todo.<\/p>\n Un hombre que us\u00f3 las caras de ni\u00f1os de su barrio para generar contenido con ellos manteniendo relaciones sexuales con sus madres o abuelas, otro que produjo im\u00e1genes s\u00e1dicas de ni\u00f1os peque\u00f1os y beb\u00e9s, otro hombre acusado de alterar la imagen de una ni\u00f1a prep\u00faber para aumentarle el pecho y colgar las im\u00e1genes en Onlyfans, un cura que pas\u00f3 a\u00f1os recopilando material y luego cre\u00f3 a\u00fan m\u00e1s gracias a la IA o un soldado del ej\u00e9rcito que sexualizaba con la IA im\u00e1genes de ni\u00f1os que conoc\u00eda.<\/p>\n En Xataka<\/p>\n El uso de inteligencia artificial para crear porno se est\u00e1 expandiendo. Y hay quien ve un (pol\u00e9mico) negocio<\/p>\n De d\u00f3nde salen las im\u00e1genes de ni\u00f1os. Facebook e Instagram. Esa es la respuesta sencilla. Seg\u00fan Joe O\u2019Barr, uno de los investigadores que ha prestado voz en la investigaci\u00f3n de Bloomberg, \u201cla gente roba im\u00e1genes de Facebook e Instagram, cosas que los padres publican libremente, y\u00a0las cuelgan en plataformas de inteligencia artificial\u201d.<\/p>\n Un patr\u00f3n que se ha descubierto es que muchos crean im\u00e1genes que involucran ni\u00f1os que conocen en el mundo real, pudiendo cumplir de este modo sus fantas\u00edas. Por ejemplo, un caso de un hombre que tom\u00f3 fotos de la hija de seis a\u00f1os de su pareja, las manipul\u00f3 con la IA y luego las colg\u00f3 junto a im\u00e1genes propias desnudo en Onlyfans.<\/p>\n \u201cEl hecho de que el perpetrador conociera a la v\u00edctima hizo que se me erizara el pelo. Significaba que la ni\u00f1a pod\u00eda estar en peligro real e inminente\u201d – Joe O\u2019Barr<\/p>\n Qu\u00e9 hacen las plataformas. Esas mismas plataformas en las que se alojan las im\u00e1genes no se quedan de brazos cruzados. Los investigadores conf\u00edan en que esas mismas compa\u00f1\u00edas dar\u00e1n la voz de alerta cuando encuentren algo, pero hay un problema: Google, xAI, Meta u OnlyFans est\u00e1n delegando la tarea de supervisi\u00f3n a la IA. Se han reportado numerosos casos de humanos que no soportan el marcar ese tipo de contenido y es por ello que, o contratan en pa\u00edses como Kenia, o directamente delegan en la IA. Insoportable. \u201cCuantos m\u00e1s casos tenemos para investigar, m\u00e1s dif\u00edcil es tratar cada caso de manera individual\u201d, asegura uno de los investigadores. Desde la propia Meta se ha reconocido que su sistema no es perfecto y agrega \u201calgo de ruido\u201d a la red de los investigadores. Como ya dec\u00edamos antes, es una enorme cantidad de material que impide que los investigadores realicen su trabajo en casos reales de menores de los que se est\u00e1 abusando o que est\u00e1n desaparecidos. En Xataka<\/p>\n Alibaba tiene nueva IA Open Source para generar v\u00eddeos. El problema es que se est\u00e1 usando para generar deepfakes pornogr\u00e1ficos<\/p>\n Legisladores, a ponerse las pilas. El trabajo de estos investigadores depende del Departamento de Justicia y de una financiaci\u00f3n que consiste en unos 30 millones de d\u00f3lares para 61 grupos de trabajo estatales. Apuntan que es una cifra muy peque\u00f1a y, para contextualizar, es lo que el FBI gasta en un d\u00eda. Denuncian que, a pesar de la avalancha de informes de material de abuso sexual infantil, la financiaci\u00f3n se ha mantenido sin cambios.<\/p>\n Hay otros problemas como el hecho de que el ritmo de la legislaci\u00f3n vaya a la zaga de la tecnolog\u00eda o que los delincuentes se est\u00e9n envalentonando, precisamente, porque saben que la cantidad de informaci\u00f3n verdadera y falsa est\u00e1 sepultando a los investigadores. Porque, si antes un depredador infantil pod\u00eda llegar a dos o tres ni\u00f1os, con la IA podr\u00eda llegar a 40 o 50 ni\u00f1os. \u201cEs, b\u00e1sicamente, como pescar con dinamita\u201d, apunta un investigador retirado que estuvo 30 a\u00f1os en una brigada de lucha por la seguridad infantil.<\/p>\n El reportaje de Bloomberg es dur\u00edsimo, pero al final representa la otra cara de una tecnolog\u00eda que es extremadamente joven y que no ha tardado nada en democratizarse. Para lo bueno y, como vemos, para lo peor. Ya lo vimos en una forma incipiente de esto como los deep fakes que las propias actrices vulneradas calificaron como \"una causa perdida\".<\/p>\n En Xataka | En ocasiones, las IA er\u00f3ticas son IA. Y en ocasiones, son un se\u00f1or de Kenia que cobra dos d\u00f3lares por hora<\/p>\n – La noticia<\/p>\n La IA hace que cada vez sea m\u00e1s dif\u00edcil saber qu\u00e9 es real y qu\u00e9 no. Y los depredadores sexuales infantiles est\u00e1n tomado nota <\/p>\n fue publicada originalmente en<\/p>\n Xataka <\/p>\n por <\/p>\n Alejandro Alcolea<\/p>\n .\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":" La era de la inteligencia artificial est\u00e1 haciendo que todo vaya muy r\u00e1pido muy deprisa. Empresas como Mercadona, Google o Anthropic ya apuntan que la gran mayor\u00eda de su c\u00f3digo lo escribe una IA, Mozilla echa flores a Mythos y Jensen Huang est\u00e1 entusiasmado con las bondades de la IA y todo lo que nos […]<\/p>\n","protected":false},"author":1,"featured_media":22532,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[6],"tags":[],"class_list":["post-22531","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/posts\/22531","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/comments?post=22531"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/posts\/22531\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/media\/22532"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/media?parent=22531"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/categories?post=22531"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/tags?post=22531"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n\n\n\n
\n ![\"Las](\"https:\/\/i.blogs.es\/3cf7e7\/meta\/375_142.jpeg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n\n\n\n<\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n\n\n\n\n
\n ![\"El](\"https:\/\/i.blogs.es\/fda1eb\/6498349887_ab75fb87ba_b\/375_142.jpg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n\n\n\u201cEl hecho de que el perpetrador conociera a la v\u00edctima hizo que se me erizara el pelo. Significaba que la ni\u00f1a pod\u00eda estar en peligro real e inminente\u201d – Joe O\u2019Barr<\/div>\n<\/p><\/div>\n<\/div>\n\n\n\n<\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n\n\n\n\n
\n ![\"Alibaba](\"https:\/\/i.blogs.es\/084907\/civitai-1\/375_142.jpeg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n
La noticia
\n
\n La IA hace que cada vez sea m\u00e1s dif\u00edcil saber qu\u00e9 es real y qu\u00e9 no. Y los depredadores sexuales infantiles est\u00e1n tomado nota <\/em>
\n <\/a>
\n fue publicada originalmente en
\n
\n Xataka <\/strong>
\n <\/a>
\n por
\n
\n Alejandro Alcolea
\n <\/a>
\n . <\/p>\n
\nEl problema es la cantidad de falsos positivos que encuentra la IA y que terminan sobrecargando el \u2018buz\u00f3n\u2019 de los investigadores. Un investigador de Carolina del Norte apunta que ha visto un aumento de 11 veces en esas \u2018pistas\u2019 que recibe su oficina, y s\u00f3lo el a\u00f1o pasado el volumen se duplic\u00f3 hasta alcanzar los 52.000 informes. Apunta que cualquier humano dir\u00eda \u201cesto no es contenido que investigar\u201d, pero como la IA no lo sabe, env\u00eda de todo: desde cosas serias a investigar hasta simples insultos.<\/p>\n
\n\u201cEstamos haciendo este trabajo masivo con la misma cantidad de recursos que ten\u00edamos hace diez a\u00f1os. No podemos soportarlo m\u00e1s y no queremos echar de menos a un ni\u00f1o de verdad del que se est\u00e9 abusando sexualmente\u201d, comenta un agente a Bloomberg.<\/p>\n