Bildu se suma a la ofensiva contra Elon Musk para prohibir los desnudos generados por la IA de 'Grok'

La Comisión Europea ha abierto una investigación formal contra la red social X (antiguo Twitter) por la función de su inteligencia artificial 'Grok', que permitía a los usuarios generar imágenes sexualizadas y desnudos de personas reales sin su consentimiento, incluyendo menores de edad.

La investigación, anunciada el pasado 26 de enero, examinará si X cumplió con sus obligaciones según la Ley de Servicios Digitales (DSA) de la UE para evaluar y mitigar los riesgos sistémicos antes de lanzar las funcionalidades de Grok en el mercado europeo. 

A esta investigación se ha sumado, en paralelo, una campaña de presión política iniciada por un grupo de 51 eurodiputados, entre ellos Pernando Barrena (Euskal Herria Bildu), que han presentado una pregunta escrita a la Comisión Europea para que ésta detalle sus planes en Europa sobre este tipo de aplicaciones de IA.

Entre los firmantes de la pregunta se encuentra una amplia coalición transversal que incluye miembros de los grupos políticos Verdes/ALE (Verts/ALE), Socialistas y Demócratas (S&D), Renew Europe (Renew), La Izquierda (The Left) y Partido Popular Europeo (PPE).

"Algunas informaciones recientes, impactantes, sobre aplicaciones de desnudez basadas en la inteligencia artificial (IA), como Grok en X, pero también otras herramientas disponibles libremente en línea, ponen de relieve un aumento de las herramientas basadas en IA que permiten a los usuarios generar imágenes íntimas manipuladas de personas sin su consentimiento", explican. Esto, añaden, "facilita la ciberviolencia de género y la creación de material de abuso sexual de menores".

Castigar con arreglo al Derecho penal nacional

Barrena y los otros 50 eurodiputados firmantes abogan por prohibir "estos sistemas en el mercado de la Unión". En su argumentación, señalan que normalmente es posible castigar a los autores individuales de este tipo de imágenes con arreglo al Derecho penal nacional, pero a menudo son difíciles de encontrar los responsables finales, ocultos bajo el anonimato de las redes. "Además, castigar a los autores de delitos no impide, en origen, la violencia sexual generalizada basada en imágenes", aseguran. 

La Comisión ha solicitado información a X en virtud del Reglamento de Servicios Digitales, pero los eurodiputados sostienen que no basta con combatir estos sistemas de IA en X o en otras plataformas de gran tamaño.  

Por ello, Barrena y el resto de los eurodiputados quieren que la Comisión Europea confirme, por un lado, que "en la actualidad, estos sistemas están claramente prohibidos en el mercado de la Unión". Por otro, que la Comisión explicite si "añadirá los sistemas de IA que puedan facilitar la violencia sexual a la lista de prácticas de IA prohibidas en virtud del artículo 5 del Reglamento de Inteligencia Artificial".

Acciones más allá de la UE

La polémica estalló a finales de 2025, cuando 'Grok', el chatbot de IA integrado en X, mejoró con una función de pago llamada 'modo picante'. Esta herramienta permitía incitar a la IA para crear contenido explícito y editar fotografías de personas, reemplazando su ropa por prendas reveladoras o generando desnudos.

Entre el 5 y el 6 de enero de 2026, se generaron miles de imágenes sexuales utilizando 'Grok', a menudo de mujeres o menores.

Tras la indignación pública y la presión regulatoria, X aplicó restricciones para impedir que Grok editara imágenes de personas reales, medidas que afectan también a suscriptores de pago. La compañía afirmó haber retirado las imágenes de menores y expulsado a los usuarios implicados.

El escándalo de Grok ha desatado acciones más allá de la UE. Francia, Alemania y el Reino Unido también han abierto investigaciones, mientras que países como Indonesia y Malasia han prohibido directamente el chatbot. En España, la Fiscalía analiza el caso y el Gobierno prepara un anteproyecto de ley para frenar los "deepfakes".