Investigación de la UE sobre imágenes no consentidas creadas por Grok

La Comisión Europea ha iniciado una investigación para esclarecer posibles irregularidades relacionadas con la generación de imágenes sin consentimiento por parte de Grok, en el marco de sus esfuerzos por reforzar la protección de los derechos digitales en la Unión Europea.

Europa reacciona ante el escándalo de Grok

La reciente oleada de imágenes sexuales no consentidas —algunas con implicación de menores— generadas por la inteligencia artificial Grok, ha disparado las alarmas en instituciones europeas. La plataforma X, que integra esta herramienta, se encuentra bajo el escrutinio más severo desde su lanzamiento, enfrentándose a una controversia que amenaza con convertirse en un caso emblemático para la futura regulación digital.

Un informe revela cifras inquietantes

El panorama se tornó especialmente preocupante tras la publicación de un informe del Center for Countering Digital Hate (CCDH). Entre el 29 de diciembre de 2025 y el 9 de enero de 2026, según sus estimaciones, cerca de tres millones de imágenes sexuales fueron generadas por la plataforma, incluyendo aproximadamente 23.000 representaciones relacionadas con niños. Esta dimensión, que sacude incluso a los más acostumbrados a los excesos digitales, refleja un fenómeno agravado por la velocidad y potencia de las herramientas basadas en IA.

Bajo lupa: RGPD y Digital Services Act

En este contexto, autoridades como la irlandesa Data Protection Commission (DPC) han decidido intervenir. Graham Doyle, comisario adjunto del organismo, confirmó el inicio de una investigación centrada en el cumplimiento por parte de X Internet Unlimited Company (XIUC) de sus obligaciones bajo el RGPD. Paralelamente, desde Bruselas se evalúa si la compañía respeta las exigencias del Digital Services Act (DSA), particularmente sobre cómo gestiona los riesgos asociados a Grok y combate la proliferación de contenidos ilícitos.

Varios elementos explican esta preocupación institucional:

• Datos personales procesados sin consentimiento explícito en Europa.
• Riesgo para menores, foco prioritario para los reguladores.
• Dudas sobre la eficacia real de las medidas adoptadas por X.

Poca confianza en las respuestas empresariales

En medio del debate público, responsables de X trataron de contener la polémica anunciando restricciones en Grok: aseguraron que ya no permite manipular imágenes reales para dotarlas de contenido sexualizado. Sin embargo, experiencias recientes —como la denunciada por un periodista al ser “desnudado” digitalmente durante una prueba— arrojan serias dudas sobre el alcance real y la sinceridad de tales controles.

Así pues, mientras Europa refuerza su vigilancia tecnológica e impulsa normas más estrictas para proteger tanto a usuarios como a menores, el caso Grok podría terminar marcando un antes y un después en el debate sobre los límites éticos y legales de la inteligencia artificial aplicada a redes sociales.