Bruselas investiga a X, antiguo Twitter, por las imágenes sexuales deepfake generadas con su IA Grok

La Comisión Europea ha informado este lunes que inicia una investigación contra la red social X por la generación de imágenes deepfake creadas por, su asistente de inteligencia artificial, Grok. Bruselas sospecha que la compañía propiedad de Elon Musk vulnera la ley europea de servicios digitales (DSA, por sus siglas en inglés) con esta funcionalidad.

"Creemos que X podría haber infringido la DSA, porque en las últimas semanas y meses hemos observado contenido antisemita, `deepfakes` no consentidos de mujeres y material de abuso sexual de menores. En Europa ninguna empresa se lucrará violando nuestros derechos fundamentales", expresó en una rueda de prensa el portavoz comunitario de telecomunicaciones, Thomas Regnier.

Ya a finales de 2025, Bruselas solicitó a la red social que conservara documentación y datos internos en relación a la difusión de mensajes antisemitas,ampliando esta petición a todo 2026

 El tratamiento de las imágenes de los menores de edad también fue una de las peticiones desde Bruselas a X, concretamente los contenidos vinculados a las imágenes sexuales con menores generadas por IA.

Regnier declaró también que el material creado por Grok y que provocó la investigación por parte de Bruselas "no es un privilegio premium" y "no tiene cabida" en la Unión Europea. Calificando de insuficientes las medidas adoptadas por la compañía tras limitar el acceso a dicha imágenes solo a sus usuarios premium.

Por su parte, Henna Virkkunen, vicepresidenta de la Comisión Europea responsable de Soberanía Tecnológica, Seguridad y Democracia, manifestó "los `deepfakes` sexuales de mujeres y menores son una forma de violencia inaceptable de degradación".

Investigación y sanciones

Bruselas quiere tener claro que la compañía de Musk está tomando las medidas necesaria para evaluar y reducir los riesgos que plantea Grok como la difusión de contenidos ilegales y efecto en temas como la violencia de género o salud mental.

También examinará si X cumple con las obligaciones de la DSA de elaborar y presentar a Bruselas el informe de evaluación de riesgos `ad hoc` sobre las funcionalidades de Grok y su impacto en los riesgos de X.

Este procedimiento quiere llevarse a cabo lo más rápido posible por parte de la Comisión Europea, el cual tiene que pasar por distintas etapas como la petición de más información, contactos con terceras partes y análisis de la réplica de defensa de la compañía antes de concluir la investigación.

En caso de ser sancionada X podría estar obligada a pagar multas que podrían representar hasta el 6% de su facturación global. 

En diciembre de 2025 , el Ejecutivo comunitario. La compañía no ha pagado aún esta sanción, pero fuentes comunitarios aclaran que tiene un plazo de tres meses que aún no ha expirado y que hay contactos entre las partes que les hacen confiar en que lo hará.