El chatbot de X generó en 11 días 3 millones de imágenes sexualizadas: 23.000 fueron de menores de edad

El chatbot Grok protagoniza el mayor escándalo en la escena de la Inteligencia Artificial en lo que va de 2026.

En el arranque del mes en curso, la compañía de Elon Musk limitó el alcance de su herramienta luego de las críticas por la capacidad del modelo para generar imágenes con desnudos no consensuados, incluso de menores de edad.

La respuesta que siguió fue tardía e insuficiente, tal como detallaremos más adelante en este repaso.

Tras varias semanas en las que Grok permitió generar falsificaciones sexualizadas, los responsables del servicio apagaron esa función.

Mientras la polémica en torno al chatbot de Elon Musk sigue su curso, una organización abocada a la protección de los derechos en entornos digitales divulga un informe que da cuenta del volumen de contenido pernicioso que emergió de esa IA.

La revelación clave: en 11 días, Grok generó aproximadamente 3 millones de imágenes sexualizadas, entre ellas unas 23.000 de niños.

“Una imagen sexualizada con menores cada 41 segundos”

El informe en torno a la polémica de Grok fue publicado por el Centro para Contrarrestar el Odio Digital (CCDH, por sus siglas en inglés), una organización sin fines de lucro radicada en el Reino Unido.

Para arribar a estos hallazgos, tomaron una muestra aleatoria de 20.000 imágenes generadas por el chatbot entre el 29 de diciembre y el 9 de enero, con una extrapolación más amplia basada en las 4,6 millones creada en ese período.

Las mencionadas 3 millones de imágenes sexualizadas en 11 jornadas se traducen en aproximadamente 190 por minuto y una deepfake con ñiños cada 41 segundos.

El CCDH definió a las imágenes sexualizadas como aquellas con “representaciones fotorrealistas de una persona en posiciones, ángulos o situaciones sexuales; una persona en ropa interior, traje de baño o indumentaria reveladora; o que muestran fluidos sexuales”.

Imágenes sexualizadas en Grok: celebridades, figuras de la política y menores de edad

En la muestra que recabó la organización aparecieron deepfakes de celebridades y figuras de la política, entre ellos la primera ministra de Suecia, Ebba Busch, y de la demócrata Kamala Harris; las cantantes Taylor Swift, Selena Gomez, Billie Eilish y Ariana Grande; y la protagonista de Stranger Things, Millie Bobby Brown.

Entre los ejemplos que involucran a menores, el CCDH mencionó que se usó Grok para editar la selfie de una niña antes de entrar en una clase y convertirla en una imagen de ella en bikini. Al 15 de enero, el 29% de las imágenes sexualizadas de menores de edad seguían accesibles en la red social X, según el informe que puede ser consultado en este enlace.

Polémica en Grok: las respuestas insuficientes de X y una polémica que salpica a Google y Apple

Tal como señalamos, la primera reacción de la compañía detrás de Grok fue restringir las capacidades de generación de imágenes a los suscriptores.

Cinco días después, la función que permitía crear desnudos de personas reales fue eliminada para todos los usuarios.

Según Engadget, la respuesta oficial fue insuficiente porque solo se aplicó a la red social X. De este modo, la aplicación independiente de Grok sigue generando ese tipo de imágenes.

Es aquí donde Apple y Google también son señaladas, porque sus tiendas de apps alojan a esa herramienta que incumple las respectivas normativas acerca del buen uso.

En ese marco, agrupaciones de defensa instaron a que Tim Cook y Sundar Pichai, los directores ejecutivos de Apple y Google, eliminen a Grok y a X de sus respectivas tiendas de apps.

“Como coalición de grupos comprometidos con la seguridad y el bienestar en línea de todos, en particular de mujeres y niños, así como con la aplicación ética de la Inteligencia Artificial, exigimos que retiren urgentemente (esas herramientas) para evitar más abusos y actividades delictivas”, alertaron.

Por el momento, los gigantes tecnológicos detrás de las dos principales tiendas de aplicaciones no respondieron el pedido ni realizaron comentarios acerca de la polémica en torno a Grok.