WASHINGTON, Estados Unidos.- El chatbot Grok, de la empresa xAI de Elon Muskgeneró alrededor de tres millones de imágenes sexualizadas de mujeres y menores en tan solo unos días, dijeron los investigadores, revelando la escala de contenido explícito que ha causado condena en todo el mundo.
Grok, integrado en la red social X, permitía a los usuarios editar imágenes reales de personas con instrucciones sencillas como «ponle un bikini» o «quítale la ropa».
Una avalancha de deepfakes ha inundado Internet, obligando a varios países a prohibir Grok y provocando una reacción violenta de los reguladores y las víctimas. «Se estima que la herramienta Grok AI ha generado casi tres millones de imágenes sexualizadas, incluidas 23.000 que parecen representar a menores, tras el lanzamiento de una nueva función de edición de imágenes en X», dijo el Centro para la Lucha contra el Odio Digital (CCDH), un organismo de control que investiga los efectos de la desinformación en Internet.
Grok creó ese volumen de imágenes hiperrealistas durante un período de 11 días, un promedio de 190 por minuto.
También identificó la sexualización de imágenes de la actriz Selena Gómez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta estadounidense Kamala Harris.
“Los datos hablan claramente: Grok di Elon Musk «Es una fábrica para la producción de pornografía infantil», dijo. Imran Ahmed, director ejecutivo de la CCDH.
No hubo comentarios inmediatos sobre los hallazgos de X. Cuando la – contactó por correo electrónico, xAI respondió con un conciso mensaje automático: «Mentiras de los grandes medios de comunicación».
La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes para todos los usuarios de Grok y X en jurisdicciones donde tales acciones sean ilegales. Países como Filipinas, Malasia e Indonesia han prohibido Grok, mientras que el Reino Unido y Francia siguen presionando a la empresa.