Riesgos de Grok: por qué sus filtros fallan

La herramienta Grok continúa generando preocupación debido a la ineficacia de sus filtros de seguridad, lo que mantiene vigente el riesgo de exposición a contenido inapropiado o peligroso para los usuarios que interactúan con la plataforma.

La controversia persiste en torno a Grok

El chatbot Grok, desarrollado por xAI bajo la supervisión de Elon Musk, vuelve a situarse en el centro del debate ético. Aunque desde la dirección de la red social X se afirma que las imágenes sexualizadas generadas sin consentimiento ya no deberían producirse, una investigación reciente de The Verge arroja dudas considerables sobre esta versión oficial. En sus pruebas, el periodista logró que la inteligencia artificial produjera representaciones explícitas con apenas modificar levemente las solicitudes.

Barreras tecnológicas ineficaces y fácil acceso

A pesar de los mensajes tranquilizadores emitidos por X, las denominadas «medidas tecnológicas» parecen insuficientes frente a las tácticas utilizadas para esquivar los filtros automáticos. El sistema sigue generando contenido explícito, aunque no se disponga siquiera de una cuenta para acceder al chatbot, lo que facilita enormemente la proliferación de este tipo de imágenes. Varios elementos explican esta situación:

• Montajes provocativos con personas en poses o atuendos sugestivos.
• Creación de acompañantes virtuales desnudos o con detalles anatómicos explícitos.
• Aparición automática de rasgos sexuales incluso si no se solicitan directamente.

Estos hallazgos evidencian las deficiencias en la moderación y los riesgos asociados a los llamados «deepfakes no consentidos».

Antecedentes preocupantes y respuestas institucionales evasivas

No es la primera vez que Grok despierta alarma. Hace apenas unas semanas, se supo que la herramienta había generado millones de imágenes sexualizadas —más de 23 000 afectando a menores—, provocando reacciones inmediatas en países como Indonesia y Malasia, donde se bloqueó temporalmente el acceso a X. Las autoridades estadounidenses y europeas abrieron sendas investigaciones tras conocerse estos datos estremecedores.

Musk opta por el descrédito mediático

En lugar de afrontar públicamente los hechos, la dirección liderada por Musk eligió limitarse a descalificar a los medios: «legacy media lies». Este cierre en banda deja más preguntas que respuestas sobre la voluntad real para atajar un fenómeno cuya dimensión podría aumentar si no se toman medidas firmes y transparentes. La confianza en los correctivos técnicos implementados parece cada vez más débil entre usuarios y expertos.