La red social X, propiedad de Elon Musk, enfrenta una de sus crisis más profundas tras la proliferación de contenidos ilícitos generados por su chatbot de inteligencia artificial, Grok.

Lo que comenzó como una herramienta de edición avanzada se ha transformado en un foco de controversia global debido a su capacidad para crear deepfakes sexuales y, de manera más alarmante, material que podría constituir pornografía infantil.

Te puede interesar: El actor turco Can Yaman detenido en Estambul por una supuesta posesión de droga

La Comisión Europea ha tomado medidas contundentes al ordenar a X la conservación de toda su documentación interna relativa a Grok durante el año 2026.

Esta orden se enmarca en una investigación bajo la Ley de Servicios Digitales (DSA), que exige a las plataformas mitigar riesgos de contenidos ilegales. Thomas Regnier, portavoz de política digital de la UE, calificó la generación de estos contenidos como «inaceptable e ilegal», advirtiendo que el cumplimiento de la normativa europea no es opcional.

En España, la ministra de Juventud e Infancia, Sira Rego, ha solicitado a la Fiscalía General investigar si Grok está cometiendo delitos de difusión de material de violencia sexual contra la infancia.

Según el ministerio, la IA habría generado, bajo demanda de los usuarios, material que vulnera gravemente la dignidad de menores, lo cual no puede considerarse un «uso neutro de la tecnología».

Lee también: Google lanza en Gmail una herramienta de IA que resume las cadenas de correos electrónicos

Por su parte, el Gobierno de Francia ha interpuesto una denuncia penal amparándose en el artículo 40 del Código Penal, tras detectar una «avalancha» de videos y fotos de mujeres desnudas creadas sin permiso. Los ministros franceses enfatizaron que internet no es «una zona de impunidad» para delitos sexuales.

REACCIÓN INTERNACIONAL Y MEDIDAS DE MUSK

La polémica no se limita al continente europeo. Indonesia bloqueó temporalmente el acceso a Grok este sábado, calificando la creación de imágenes sexuales falsas como una «violación grave de los derechos humanos» y exigiendo a Musk medidas técnicas concretas de mitigación.

Indonesia has temporarily banned Grok. pic.twitter.com/My3YoLRbZW

— Indonesian Pop Base (@iPopBase) January 10, 2026

Ante la presión, Elon Musk advirtió en su plataforma que cualquier usuario que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias legales que si lo publicara directamente.

Como medida inmediata, X limitó el acceso a las funciones de edición de imágenes de Grok únicamente a suscriptores de pago, lo que vincula la información bancaria del usuario a las creaciones realizadas.

A pesar de estas medidas, reguladores como Ofcom en el Reino Unido mantienen «serias preocupaciones» y exigen acciones urgentes para frenar la proliferación de imágenes degradantes que atentan contra la seguridad ciudadana en el entorno digital, lejos de solo recurrir a la monetización de la herramienta.