Bruselas abre una investigación contra X por las imágenes sexualizadas con su herramienta de IA
2026-01-26 - 11:39
La Comisión Europea ha abierto este lunes una investigación contra X (antes Twitter) por la generación de imágenes sexualizadas a través de su herramienta de inteligencia artificial (IA), Grok. Según los últimos datos, generó tres millones de imágenes sexualizadas en X en 11 días, incluidas más de 23.000 de menores. Ahora Bruselas sigue los pasos de Reino Unido y vigila que se cumpla su ley de servicios digitales. En concreto, la nueva investigación evaluará si la empresa evaluó y mitigó adecuadamente los riesgos asociados al despliegue de las funcionalidades de Grok en X en la UE. Esto incluye los riesgos relacionados con la difusión de contenidos ilegales en la UE, como imágenes sexualmente explícitas manipuladas, incluidos contenidos que puedan constituir material de abuso sexual infantil. "Estos riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a graves daños", explican. A la luz de ello, sostiene Bruselas en un comunicado, la Comisión seguirá investigando si X cumple con sus obligaciones en virtud de la DSA de evaluar y mitigar diligentemente los riesgos sistémicos, incluidos los relacionados con la difusión de contenidos ilegales, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas de la implementación de las funcionalidades de Grok en su plataforma. Por otro lado, el Ejecutivo comunitario recuerda que la entidad tiene que realizar y transmitir a la Comisión un informe ad hoc de evaluación de riesgos de las funcionalidades de Grok dentro de lo que antes era Twitter, con un impacto crítico en el perfil de riesgo de la red social antes de su implementación. Asimismo, la Comisión Europea ha ampliado el procedimiento formal incoado contra X en diciembre de 2023 para determinar si el gigante tecnológico ha evaluado y mitigado adecuadamente todos los riesgos sistémicos, tal y como se definen en la DSA, asociados a sus sistemas de recomendación, incluido el impacto de su reciente anuncio de cambiar a un sistema de recomendación basado en Grok. De demostrarse, recuerda Bruselas, estas deficiencias constituirían infracciones de varios artículos de la ley de mercados digitales, y además el Ejecutivo comunitario ha anunciado que dará prioridad a esta investigación. "Los deepfakes sexuales de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la DSA, o si ha tratado los derechos de los ciudadanos europeos -incluidos los de las mujeres y los niños- como daños colaterales de su servicio", ha valorado tras el anuncio la vicepresidenta de la Comisión Europea, Hena Virkkunen. Las cifras hablan por sí solas. Los datos recabados por el Centro para la Lucha contra el Odio Digital (CCDH, por sus siglas en inglés) junto a The New York Times revelan la magnitud del fenómeno. Entre el 29 de diciembre y el 8 de enero, la herramienta habría generado alrededor de tres millones de imágenes sexualizadas, lo que equivale a unas 190 imágenes por minuto durante el periodo más activo. El análisis, basado en una muestra de 20.000 imágenes sobre un conjunto mayor estimado de 4,6 millones, concluye que un 65 % del total contenía contenido sexualizado. De estas, el 41% -unos 1,8 millones- eran imágenes sexualizadas de mujeres.