La empresa xAI, propiedad de Elon Musk, anunció que su chatbot Grok dejará de permitir la edición de fotografías de personas reales para representarlas con ropa reveladora en aquellos lugares donde esa práctica sea ilegal. La decisión llega después de una fuerte reacción internacional por el uso de la herramienta para generar imágenes sexualizadas sin consentimiento, incluidas representaciones de mujeres y menores, lo que encendió alarmas entre gobiernos y organismos reguladores.
El cambio fue comunicado a través de la red social X y marca un giro en la postura inicial de la compañía, que durante días evitó responder de manera directa a las consultas de la prensa. En ese período, las solicitudes de comentarios recibieron respuestas automáticas despectivas, lo que alimentó aún más las críticas. Con el nuevo anuncio, xAI aseguró que implementó mecanismos tecnológicos para impedir que Grok edite imágenes de personas reales con prendas como bikinis, ropa interior u otros atuendos considerados sexualmente explícitos.
Según la empresa, la restricción se aplicará a todos los usuarios, incluidos aquellos que pagan por acceder a funciones avanzadas. Además, se confirmó que la creación y edición de imágenes quedará limitada exclusivamente a suscriptores pagos, con el argumento de que esta medida permitirá identificar y responsabilizar a quienes intenten utilizar la herramienta para violar la ley o las normas internas de la plataforma.
La controversia estalló luego de que se detectara que el llamado modo picante de Grok facilitaba la generación de contenido sexual explícito. Organizaciones de derechos digitales y autoridades señalaron que esa función estaba siendo utilizada para producir montajes realistas de carácter íntimo sin consentimiento, una práctica asociada a acoso, extorsión y daño psicológico. Como consecuencia, países del sudeste asiático como Malasia e Indonesia decidieron bloquear el acceso al chatbot, mientras que en Europa y el Reino Unido se abrieron investigaciones por posibles violaciones a las leyes de seguridad en línea. Francia, India y Brasil también emitieron advertencias y exigieron controles más estrictos.
En Estados Unidos, el estado de California anunció la apertura de una investigación para determinar el alcance de la proliferación de imágenes íntimas falsas generadas con Grok. Las autoridades señalaron que la herramienta habría facilitado la producción masiva de este tipo de contenidos, que luego se difundieron a través de plataformas digitales. El fiscal general californiano reclamó acciones inmediatas y sostuvo que no existe tolerancia alguna frente a la creación y circulación de material sexual no consensuado o de abuso infantil mediante inteligencia artificial.
El debate se da en un contexto más amplio de creciente preocupación por los riesgos de las tecnologías generativas, capaces de producir imágenes, textos y sonidos cada vez más realistas. Legisladores y reguladores advierten que las salvaguardas actuales no son suficientes y que la velocidad de desarrollo supera a los marcos legales vigentes. En California ya se aprobaron normas destinadas a proteger a menores de imágenes sexuales creadas por inteligencia artificial y a exigir que los chatbots aclaren que no son humanos, aunque otras iniciativas para limitar el acceso de niños a estas herramientas han quedado estancadas.
La decisión de xAI busca contener la presión internacional y evitar sanciones más severas, pero también reabre el debate sobre la responsabilidad de las empresas tecnológicas en el uso de sus productos. Mientras algunos consideran que las nuevas medidas llegan tarde, otros sostienen que representan un primer paso para frenar abusos que, de no controlarse, podrían multiplicarse en el ecosistema digital global.
