Washington, Estados Unidos

El chatbot Grok, de la empresa xAI de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, dijeron el jueves investigadores, al revelar la magnitud del contenido explícito que provocó indignación mundial.

Grok, que está integrado a la red social X, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como "ponla en bikini" o "sácale la ropa".

Una avalancha de imágenes hiperrealistas falsas (deepfakes) inundó Internet, lo que provocó que varios países prohibieran a Grok y despertó la indignación de los entes reguladores y las víctimas.

"Se estima que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23.000 que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes",

dijo el Centro para Combatir el Odio Digital (CCDH), un observatorio que investiga los efectos dañinos de la desinformación en internet.

Grok creó ese volumen de imágenes hiperrealistas en un período de 11 días, es decir un promedio de 190 por minuto, según el informe, que no especifica cuántas fueron creadas sin el consentimiento de las personas.

También identificó la sexualización de imágenes de la actriz Selena Gomez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris.

"Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual", dijo Imran Ahmed, director ejecutivo del CCDH.

No hubo comentarios inmediatos sobre los hallazgos por parte de X. Al ser contactada por la AFP por correo electrónico, xAI respondió con un escueto mensaje automatizado: "Mentiras de los medios tradicionales".

La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales.

Países como Filipinas, Malasia e Indonesia prohibieron Grok, mientras que Reino Unido y Francia mantienen presión sobre la empresa.

El fiscal general de California inició una investigación sobre xAI por el material sexualmente explícito, y varios países abrieron sus propias pesquisas.

Impacto y reacciones internacionales

La proliferación de imágenes sexualizadas generadas por Grok ha provocado respuestas regulatorias en varios países, incluyendo prohibiciones y presiones legales. La herramienta de IA ha sido señalada por organizaciones como el CCDH por facilitar la creación masiva de contenido explícito sin control efectivo.

Ante la controversia, xAI y la red social X han anunciado restricciones para limitar la creación de imágenes sexualizadas en regiones donde sea ilegal. Además, autoridades como la fiscalía de California han iniciado investigaciones para determinar responsabilidades legales y proteger a las víctimas.

• En un lapso de 11 días, Grok generó aproximadamente tres millones de imágenes sexualizadas, con un promedio de 190 por minuto. Entre ellas, 23 mil parecen representar a menores, lo que ha elevado la alarma sobre el uso indebido de la tecnología y la necesidad de regulación.