Descontrol digital en X: Grok generó tres millones de imágenes sexualizadas en solo 11 días

Un informe del Center for Countering Digital Hate (CCDH) revela que la IA de Elon Musk fue utilizada para crear masivamente “deepfakes” de mujeres y menores. La presión global forzó a la plataforma a restringir la herramienta, mientras fiscalías de varios países abren investigaciones por delitos de explotación infantil.

La frontera entre la innovación y el delito se ha desdibujado en la red social X. Un reciente análisis del Center for Countering Digital Hate (CCDH) expuso cifras escalofriantes sobre el uso de Grok, el chatbot de inteligencia artificial desarrollado por xAI: en un lapso de apenas 11 días, los usuarios generaron más de tres millones de imágenes sexualizadas, operando a un ritmo de 190 capturas por minuto. Lo más alarmante es que el informe identificó que al menos 23.000 de estas imágenes correspondían a menores de edad, lo que ha desatado una ola de denuncias criminales en Europa, Estados Unidos e India.

El escándalo comenzó a gestarse el pasado 31 de diciembre, cuando una provocación del propio Elon Musk —quien pidió a Grok generar una imagen suya en bikini— pareció validar el uso de la herramienta para manipular la fisonomía de terceros sin su consentimiento. Lo que siguió fue una carrera frenética de los usuarios para crear deepfakes de celebridades y personas anónimas en situaciones explícitas o de desnudez. A diferencia de competidores como ChatGPT o Gemini, que poseen filtros éticos estrictos, Grok fue presentado inicialmente como una alternativa “sin censura”, una promesa que terminó facilitando la proliferación de material de abuso sexual infantil (CSAM).

La respuesta internacional no se hizo esperar. El gobierno de Francia presentó una denuncia formal ante la justicia, mientras que países como Indonesia y Malasia optaron por bloquear directamente el acceso a la IA. Ante la inminencia de sanciones federales en Estados Unidos y multas millonarias de la Unión Europea, X se vio obligada a ceder: el 8 de enero limitó el uso de Grok a suscriptores de pago y, finalmente, el 15 de enero anunció el bloqueo total de la generación de imágenes sexualizadas. Sin embargo, los expertos advierten que el daño ya es viral; miles de estas imágenes continúan circulando en foros de la dark web y otras plataformas.

Este episodio marca un antes y un después en el debate sobre la ética de la inteligencia artificial generativa. Mientras Grok reconoció públicamente “fallos en sus salvaguardias”, la fiscalía en España y otros organismos internacionales investigan la responsabilidad civil y penal de la empresa por no haber previsto el uso malintencionado de su tecnología. Lo que Musk defendió como un bastión de la “libertad de expresión” se transformó, en menos de dos semanas, en una fábrica de violencia digital que hoy pone a su compañía en el ojo de una tormenta legal sin precedentes.

Nota escrita por:
Te recomendamos...
La Justicia pidió indagar a Espert por lavado de dinero

Por presuntas maniobras de lavado de dinero, el fiscal federal Fernando Domínguez pidió citar a indagatoria al exlegislador José Luis Espert. La causa analiza transferencias de 200.000 dólares provenientes de una cuenta asociada al empresario aeronáutico Fred Machado.

Preocupación por Chiche Gelblung: volvió a ser internado

Chiche Gelblung ingresó nuevamente al Sanatorio Mater Dei este miércoles debido a un cuadro febril. El conductor de 82 años había recibido el alta médica hace cuatro días, luego de permanecer casi un mes en terapia intensiva.

El Senado posterga una semana la sesión prevista contra Adorni

Postergaron una semana la actividad legislativa en la Cámara alta tras un acuerdo entre oficialismo y bloques aliados. El próximo jueves debatirán el pedido de interpelación al jefe de Gabinete Manuel Adorni por presuntas irregularidades patrimoniales.

Causa $LIBRA: Novelli niega estafa y pide apartar a inversores

Mediante un escrito de 46 páginas presentado este martes ante la Justicia federal, la defensa del imputado Mauricio Novelli rechazó la hipótesis de fraude por el token $LIBRA y exigió retirar la condición de damnificados a cinco compradores del activo.