Grok: Permiso condicionado para operar nuevamente en Malasia

La inteligencia artificial Grok recibió luz verde para operar nuevamente en Malasia, aunque bajo una serie de requisitos rigurosos establecidos por las autoridades locales, que buscan garantizar un uso responsable y alineado con las normativas nacionales.

Escándalo internacional por los deepfakes de Grok

La reciente decisión de las autoridades de Malasia de levantar la prohibición sobre el chatbot de inteligencia artificial Grok, desarrollado por X Corp, ha reavivado el debate global sobre los riesgos inherentes a estas tecnologías. Esta medida llega tras un periodo de bloqueo motivado por la proliferación, a través del sistema, de contenidos sexuales generados sin consentimiento —un fenómeno que afectó tanto a adultos como a menores y encendió las alarmas en toda la región.

Cambios internos y presión internacional sobre X Corp

El problema desbordó rápidamente las fronteras del sudeste asiático. Poco después de que la MCMC, autoridad malasia en materia digital, exigiera garantías firmes contra los abusos, organismos como el regulador británico Ofcom iniciaron sus propias investigaciones. Al amparo del Online Safety Act, el Reino Unido puso la lupa sobre las prácticas internas de X Corp, aumentando así la presión internacional para una respuesta efectiva.

Varios elementos explican esta decisión:

• X Corp implementó restricciones estrictas: desde mediados de enero, está prohibido que Grok altere imágenes reales para mostrar personas en ropa sugerente, como bikinis.
• El compromiso adquirido por la empresa matriz, xAI, ha sido validado por las autoridades malasias, aunque éstas mantienen su advertencia: cualquier reincidencia será sancionada «con firmeza».

Cifras alarmantes y vigilancia reforzada

No obstante, la magnitud del fenómeno queda reflejada en los datos difundidos por el Center for Countering Digital Hate (CCDH). Según este observatorio británico, entre finales de diciembre y principios de enero se habrían generado cerca de tres millones de imágenes sexualizadas mediante Grok; entre ellas, unas 23.000 involucrarían directamente a menores. Estas cifras ilustran hasta qué punto la inteligencia artificial puede ser instrumentalizada con fines ilícitos.

Un reto persistente para gobiernos y plataformas

Aunque el desbloqueo en Malasia supone un punto de inflexión para Grok y sus responsables, el caso deja claro que la supervisión constante será imprescindible. El equilibrio entre innovación tecnológica y protección ciudadana sigue siendo esquivo. La experiencia malasia demuestra que ni los avances técnicos ni los compromisos empresariales bastan sin una vigilancia proactiva: responsabilidad y control deben ir necesariamente de la mano en este terreno volátil.