Descontrol digital en X: Grok generó tres millones de imágenes sexualizadas en solo 11 días

Un informe del Center for Countering Digital Hate (CCDH) revela que la IA de Elon Musk fue utilizada para crear masivamente “deepfakes” de mujeres y menores. La presión global forzó a la plataforma a restringir la herramienta, mientras fiscalías de varios países abren investigaciones por delitos de explotación infantil.

La frontera entre la innovación y el delito se ha desdibujado en la red social X. Un reciente análisis del Center for Countering Digital Hate (CCDH) expuso cifras escalofriantes sobre el uso de Grok, el chatbot de inteligencia artificial desarrollado por xAI: en un lapso de apenas 11 días, los usuarios generaron más de tres millones de imágenes sexualizadas, operando a un ritmo de 190 capturas por minuto. Lo más alarmante es que el informe identificó que al menos 23.000 de estas imágenes correspondían a menores de edad, lo que ha desatado una ola de denuncias criminales en Europa, Estados Unidos e India.

El escándalo comenzó a gestarse el pasado 31 de diciembre, cuando una provocación del propio Elon Musk —quien pidió a Grok generar una imagen suya en bikini— pareció validar el uso de la herramienta para manipular la fisonomía de terceros sin su consentimiento. Lo que siguió fue una carrera frenética de los usuarios para crear deepfakes de celebridades y personas anónimas en situaciones explícitas o de desnudez. A diferencia de competidores como ChatGPT o Gemini, que poseen filtros éticos estrictos, Grok fue presentado inicialmente como una alternativa “sin censura”, una promesa que terminó facilitando la proliferación de material de abuso sexual infantil (CSAM).

La respuesta internacional no se hizo esperar. El gobierno de Francia presentó una denuncia formal ante la justicia, mientras que países como Indonesia y Malasia optaron por bloquear directamente el acceso a la IA. Ante la inminencia de sanciones federales en Estados Unidos y multas millonarias de la Unión Europea, X se vio obligada a ceder: el 8 de enero limitó el uso de Grok a suscriptores de pago y, finalmente, el 15 de enero anunció el bloqueo total de la generación de imágenes sexualizadas. Sin embargo, los expertos advierten que el daño ya es viral; miles de estas imágenes continúan circulando en foros de la dark web y otras plataformas.

Este episodio marca un antes y un después en el debate sobre la ética de la inteligencia artificial generativa. Mientras Grok reconoció públicamente “fallos en sus salvaguardias”, la fiscalía en España y otros organismos internacionales investigan la responsabilidad civil y penal de la empresa por no haber previsto el uso malintencionado de su tecnología. Lo que Musk defendió como un bastión de la “libertad de expresión” se transformó, en menos de dos semanas, en una fábrica de violencia digital que hoy pone a su compañía en el ojo de una tormenta legal sin precedentes.

Nota escrita por:

Esta nota se actualizó a las:

Te recomendamos...
EE. UU. detiene al periodista nicaragüense exiliado Luis Galeano

El Servicio de Inmigración de Estados Unidos detuvo en Florida al periodista nicaragüense Luis Galeano, despojado de su nacionalidad por el régimen de Ortega. El comunicador, exiliado desde 2018, fue arrestado mientras trabajaba, manteniendo pendiente su solicitud de asilo.

La Joaqui habló de Tiago PZK: “Es un tipazo”

En diálogo con La Mañana con Moria, La Joaqui desmintió un romance con Tiago PZK a dos meses de su separación con Luck Ra, luego de que el cantante cordobés expusiera públicamente el vínculo entre ambos.

Turquía ejecuta masivas redadas contra la comunidad LGBTQ+

Despliegan decenas de redadas en 15 provincias turcas contra activistas, locales y asociaciones LGBT+. La Unión Europea rechazó los arrestos, mientras Ankara justificó los operativos bajo la premisa de proteger la institución familiar.

La carrera con perros DogRun vuelve a Vicente López

Vicente López albergará la 14ª edición de una jornada deportiva y recreativa para correr o caminar junto a mascotas este domingo 4 de octubre. El circuito del Vial Costero incluirá modalidades individuales y grupales.