Las autoridades de Indonesia anunciaron el sábado el bloqueo temporal del acceso al chatbot Grok de xAI, en respuesta a la proliferación de imágenes sexualizadas generadas por inteligencia artificial que representan a mujeres reales y menores de edad. Esta medida constituye una de las acciones gubernamentales más contundentes hasta la fecha contra el uso indebido de herramientas de IA para crear contenido explícito no consensuado a través de la red social X.
La ministra de Comunicaciones y Digital de Indonesia, Meutya Hafid, emitió una declaración compartida con medios internacionales donde calificó la práctica de deepfakes sexuales no consensuados como “una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”. Adicionalmente, el ministerio convocó a representantes de X para discutir el problema directamente.
Respuesta internacional al caso Grok
La controversia surgió después de que usuarios de X publicaran imágenes explícitas generadas por Grok, muchas de las cuales mostraban a mujeres reales y menores en situaciones de abuso sexual. Tanto X como xAI forman parte de la misma estructura empresarial bajo el control de Elon Musk.
Durante la semana pasada, diversos gobiernos adoptaron medidas regulatorias. El ministerio de TI de India ordenó a xAI tomar acciones inmediatas para prevenir que Grok genere contenido obsceno, según reportes oficiales.
Mientras tanto, la Comisión Europea instruyó a la compañía retener toda la documentación relacionada con Grok, una medida que podría preparar el terreno para una investigación formal bajo las regulaciones digitales del bloque europeo.
Reguladores británicos intensifican supervisión
En el Reino Unido, el regulador de comunicaciones Ofcom anunció que llevará a cabo “una evaluación rápida para determinar si existen problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer expresó en una entrevista que Ofcom cuenta con su “apoyo total para tomar medidas” contra las violaciones relacionadas con contenido generado por inteligencia artificial.
Sin embargo, la administración Trump en Estados Unidos ha mantenido silencio sobre el asunto. Esta postura contrasta con la relación cercana entre el CEO de xAI, Elon Musk, quien realizó importantes donaciones a la campaña de Trump y dirigió el controvertido Departamento de Eficiencia Gubernamental el año pasado.
Presión política y medidas correctivas de xAI
A pesar del silencio oficial estadounidense, senadores demócratas han solicitado públicamente a Apple y Google eliminar X de sus tiendas de aplicaciones como respuesta a la crisis de contenido generado por IA.
xAI respondió inicialmente publicando una disculpa aparentemente en primera persona en la cuenta de Grok, reconociendo que una publicación “violó estándares éticos y potencialmente leyes estadounidenses” relacionadas con material de abuso sexual infantil. Posteriormente, la compañía restringió la función de generación de imágenes con IA exclusivamente a suscriptores de pago en X.
No obstante, esta restricción aparentemente no afectó la aplicación independiente de Grok, que continuó permitiendo a cualquier usuario generar imágenes sin limitaciones. En respuesta a críticas sobre por qué el gobierno británico no actuaba contra otras herramientas de generación de imágenes por IA, Musk escribió en X: “Quieren cualquier excusa para la censura”.
Los próximos días determinarán si más gobiernos adoptan medidas similares al bloqueo indonesio de Grok, o si las investigaciones en Europa y otras jurisdicciones resultan en sanciones formales. La capacidad de xAI para implementar salvaguardas efectivas contra el abuso de sus herramientas de inteligencia artificial enfrentará un escrutinio intensificado mientras los reguladores evalúan la extensión del problema y las responsabilidades legales de la compañía.