Malasia e Indonesia prohíben el chatbot Grok de inteligencia artificial

Las autoridades de Malasia y de Indonesia han decidido prohibir el uso del chatbot Grok, desarrollado por xAI, en sus territorios. Ambas naciones alegan preocupaciones relacionadas con la seguridad y el contenido generado por esta inteligencia artificial.

Barreras regulatorias en Asia para Grok

Las autoridades de Malasia y Indonesia han optado por restringir el acceso al chatbot Grok, desarrollado por X Corp. El detonante ha sido la falta de garantías suficientes contra la generación y difusión de deepfakes de carácter sexual, con especial foco en mujeres y menores. Según palabras de la ministra indonesia de comunicaciones, Meutya Hafid, se trata de imágenes generadas sin consentimiento, una vulneración grave de los derechos humanos que pone en jaque la seguridad digital. Las primeras pesquisas locales han sacado a relucir importantes carencias en los mecanismos preventivos contra estos abusos.

La postura malasia coincide: sus responsables denuncian un “uso abusivo reiterado” del servicio, incluyendo la circulación no consentida de imágenes íntimas falsas. De momento, el bloqueo seguirá vigente hasta que tanto X Corp como su matriz, xAI, implementen protecciones consideradas adecuadas.

X bajo lupa en el Reino Unido

Mientras tanto, el debate sobre las responsabilidades digitales se traslada a Europa. El regulador británico Ofcom ha iniciado una investigación formal sobre X, apoyándose en el nuevo Online Safety Act. La cuestión principal gira en torno a si la plataforma está tomando medidas eficaces para blindar a sus usuarios frente a contenidos ilegales, especialmente aquellos relativos a explotación infantil o imágenes íntimas distribuidas sin permiso.

Ante este contexto, Ofcom puede imponer sanciones notables si detecta incumplimientos:

• Multas económicas de hasta 18 millones de libras o el 10% del volumen global de negocio;
• Bloqueo del sitio para los usuarios británicos;
• Restricciones a anunciantes y proveedores financieros.

Creciente escrutinio internacional sobre la IA generativa

Esta controversia traspasa fronteras asiáticas y británicas. Durante el fin de semana, representantes del gobierno británico mantuvieron contactos con socios internacionales —entre ellos, instancias regulatorias en India y la propia Unión Europea— para plantear respuestas coordinadas ante la proliferación global de deepfakes vinculados a Grok.

Conviene recordar que aunque Grok ha limitado recientemente ciertas funciones gráficas solo para suscriptores premium, otros usuarios todavía pueden acceder a estas herramientas mediante la web o su aplicación. Todo ello evidencia que el choque entre avance tecnológico y regulación apenas comienza —y el desenlace dista mucho de estar claro.