Polémica por desnudos de mujeres y menores: Grok limita a usuarios de pago la edición de imágenes

Tras críticas por generar imágenes falsas sexualmente explícitas de mujeres y menores, el asistente de IA de la plataforma de Elon Musk desactivó la función de creación de imágenes para usuarios que no pagan.

​Tras críticas por generar imágenes falsas sexualmente explícitas de mujeres y menores, el asistente de IA de la plataforma de Elon Musk desactivó la función de creación de imágenes para usuarios que no pagan.  

Cuando los usuarios de X, la plataforma social de Elon Musk, lo contactaron este viernes, Grok, su asistente de inteligencia artificial, respondió: “La generación y edición de imágenes están actualmente reservadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones”.

Grok es una herramienta gratuita que permitía a los usuarios subir y editar fotos, y que ha atendido peticiones de usuarios para editar imágenes de mujeres y menores, y mostrarles en bikini o sin ropa, lo que ha desatado una fuerte oleada de denuncias y quejas en todo el mundo.

En lo adelante, el nombre y la información de pago del usuario estarían asociados a la imagen alterada, sea del tipo que sea. “Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, señaló Musk en X.

“Con suscripción de pago o sin ella, no queremos ver esas imágenes”

Esta desactivación limitada provocó indignación en el Gobierno de Reino Unido, uno de los principales críticos de Elon Musk. La medida de la plataforma, denunció un portavoz del primer ministro británico, Keir Starmer, “simplemente transforma una función que permite la creación de imágenes ilegales en un servicio premium“, lo cual representa “un insulto a las víctimas de misoginia y violencia sexual“.

En Bruselas, la Comisión Europea ha “tomado nota de las últimas enmiendas”, pero las ha considerado insuficientes. “Con suscripción de pago o sin ella, no cambia nuestro problema fundamental: no queremos ver esas imágenes, así de simple”, declaró Thomas Régnier, portavoz de la Comisión Europea para Asuntos Digitales. 

“Lo que pedimos a las plataformas es que se aseguren de que su diseño, sus sistemas, no permitan la generación de ese contenido ilegal”, añadió. 

Imágenes sexualmente explícitas de menores generadas por Grok

Bruselas anunció el jueves la imposición de una medida cautelar a X tras el escándalo relacionado con imágenes sexualmente explícitas de mujeres y  menores generadas por Grok

La Comisión Europea especificó que había emitido una “orden de conservación”, una medida legal que obliga a X a “conservar todos sus documentos internos relacionados con Grok hasta finales de 2026”, según declaró a la prensa un vocero. 

A principios de diciembre, la UE impuso a X una multa de 120 millones de euros por infringir la Ley de Servicios Digitales (DSA), a pesar de las reiteradas amenazas del presidente estadounidense Donald Trump, quien acusa al bloque europeo de atacar a los gigantes tecnológicos estadounidenses a través de su legislación digital. 

El Gobierno británico, por su parte, instó el martes a X a encontrar una solución “urgente” para evitar la proliferación de imágenes falsas “escandalosas” de mujeres desnudas y menores generadas por Grok. 

“Absolutamente atroz e inaceptable en cualquier sociedad que se precie”

“Lo que hemos visto en línea en los últimos días es absolutamente atroz e inaceptable en cualquier sociedad que se precie”, declaró Liz Kendall, ministra de Tecnología del Gobierno laborista de Keir Starmer. 

La profesora de Filosofía de la Universidad británica de Cardiff, Daisy Dixon, una de las usuarias que había denunciado que había personas en la red X que utilizaban Grok para desnudarla, ha reaccionado al anuncio de la red social considerando que el cambio es “un parche”.

El cambio: ¿es positivo o “un parche improvisado”?

“Al parecer, Grok ha desactivado su función de generación de imágenes. Esto supondrá una pausa en las ofensas, lo cual es positivo, pero me preocupa que se trate de un parche improvisado para ocultar un problema más grave: el diseño de una herramienta de inteligencia artificial poco ética y difusora de la misoginia”, señaló Dixon en una publicación esta mañana.

“El problema de la IA es un problema humano: hay que rediseñar Grok e implementar sus límites éticos. Pero Elon Musk debe reconocerlo, estamos ante otra violación por motivos de género”, añade la filósofa, quien en previas ocasiones ha llamado la atención sobre el hecho de que más del 95% de los abusos sexuales con imágenes no consentidas en esta red van dirigidos contra las mujeres.

Numerosos Gobiernos de todo el mundo, sobre todo europeos, han calificado de ‘repugnante’ la generación de imágenes sexualizadas de niños y mujeres mediante Grok en los últimos días y han anunciado medidas y posibles sanciones.

rml (efe, afp)

​Deutsche Welle: DW.COM – Ciencia y Tecnologia