Malasia e Indonesia se convirtieron en los primeros países del mundo en bloquear Grok, el chatbot de inteligencia artificial desarrollado por la empresa xAI de Elon Musk, en medio de una creciente preocupación internacional por su uso para generar imágenes sexuales falsas y sin consentimiento. La decisión marca un punto de inflexión en el debate global sobre los límites de la inteligencia artificial generativa y la responsabilidad de las plataformas tecnológicas frente a contenidos abusivos.
Las autoridades de ambos países del sudeste asiático justificaron la medida al señalar que los controles existentes no lograron impedir la creación y difusión de imágenes pornográficas manipuladas, especialmente aquellas que involucran a mujeres y menores de edad. En Indonesia, el acceso a Grok fue bloqueado de manera temporal durante el fin de semana, seguido por una acción similar en Malasia, donde el regulador afirmó haber detectado un uso reiterado de la herramienta para producir contenido sexual explícito y no consensuado.
La ministra indonesia de Comunicación y Asuntos Digitales, Meutya Hafid, sostuvo que los montajes sexuales sin consentimiento constituyen una grave violación de los derechos humanos, de la dignidad y de la seguridad de las personas en el entorno digital. Desde el gobierno señalaron que las primeras evaluaciones demostraron que Grok carecía de salvaguardas eficaces para evitar que fotografías reales de ciudadanos fueran alteradas y difundidas sin autorización, lo que expone a las víctimas a daños personales y sociales difíciles de revertir.
En Malasia, la comisión de comunicaciones y multimedia explicó que la restricción se adoptó como una medida preventiva mientras avanzan los procesos legales y regulatorios. El organismo aseguró haber emitido advertencias formales tanto a X Corp., la red social de Musk a través de la cual se accede al chatbot, como a xAI, exigiendo mecanismos más sólidos para frenar estos abusos. El bloqueo, aclararon, se mantendrá hasta que se implementen protecciones efectivas.
El caso de Grok se inscribe en una ola más amplia de escrutinio sobre herramientas de inteligencia artificial capaces de generar imágenes, audio y textos altamente realistas. En los últimos meses, gobiernos y reguladores de regiones como la Unión Europea, India, Francia y el Reino Unido intensificaron su atención sobre este tipo de tecnologías, ante el temor de que las barreras actuales no sean suficientes para prevenir usos dañinos.
En el Reino Unido, el regulador de medios abrió una investigación para determinar si Grok violó la ley al permitir la difusión de imágenes sexualizadas de menores o la manipulación de fotografías de personas reales. Funcionarios británicos advirtieron que este tipo de contenidos podría constituir material pornográfico ilegal o abuso sexual infantil. En paralelo, el gobierno anunció su intención de criminalizar aplicaciones que faciliten la creación de desnudos sin consentimiento, con el objetivo de atacar el problema desde su origen.
La respuesta de xAI ante las consultas de la prensa fue, cuanto menos, provocadora. Solicitudes de comentarios recibieron respuestas automáticas con mensajes despectivos hacia los medios, lo que alimentó aún más las críticas sobre la falta de compromiso de la empresa frente a una controversia de alcance global. Aunque Grok restringió recientemente algunas funciones de generación de imágenes a usuarios pagos, organizaciones y expertos consideran que la medida no resolvió el problema de fondo.
El propio Elon Musk reaccionó con dureza ante las acciones regulatorias, especialmente en el Reino Unido, al acusar al gobierno de intentar sofocar la libertad de expresión. Sin embargo, para muchos gobiernos el debate ya no gira en torno a la censura, sino a la protección de derechos básicos en un entorno digital cada vez más complejo. El bloqueo de Grok en Malasia e Indonesia podría ser apenas el primer paso de una ofensiva regulatoria más amplia contra los abusos de la inteligencia artificial.
