El Ministerio de Tecnologías de la Información de India ordenó el viernes a X, la plataforma de Elon Musk, realizar cambios técnicos y procedimentales inmediatos en su chatbot de inteligencia artificial Grok después de que usuarios y legisladores denunciaran la generación de contenido obsceno. La directiva exige restringir la creación de material que involucre desnudez, sexualización o contenido sexualmente explícito, y otorga a la red social 72 horas para presentar un informe de acciones correctivas tomadas.
Según la orden revisada por medios especializados, el incumplimiento podría poner en riesgo las protecciones de “puerto seguro” de X, que otorgan inmunidad legal frente a contenido generado por usuarios bajo la legislación india. El gobierno advirtió que la falta de cumplimiento podría resultar en consecuencias legales contra la plataforma, sus responsables y los usuarios que violen la ley.
Denuncias sobre imágenes alteradas con inteligencia artificial
La acción del gobierno indio surge después de que usuarios compartieran ejemplos de Grok siendo utilizado para alterar imágenes de individuos, principalmente mujeres, haciéndolas aparecer en bikini mediante inteligencia artificial. La parlamentaria india Priyanka Chaturvedi presentó una queja formal al respecto.
Adicionalmente, informes recientes señalaron casos en los que el chatbot generó imágenes sexualizadas que involucraban a menores. X reconoció el viernes que estos casos fueron causados por fallas en las salvaguardas del sistema, y posteriormente eliminó esas imágenes. Sin embargo, al momento de la publicación, las imágenes de mujeres alteradas para aparecer en bikini permanecían accesibles en la plataforma.
Contexto regulatorio y advertencias previas sobre contenido explícito
La orden específica contra Grok llega días después de que el ministerio indio emitiera el lunes un comunicado más amplio a las plataformas de redes sociales. Ese documento recordaba que el cumplimiento de las leyes locales sobre contenido obsceno y sexualmente explícito es un requisito previo para mantener la inmunidad legal frente a material generado por usuarios.
El comunicado instó a las empresas a fortalecer sus salvaguardas internas y advirtió que el incumplimiento podría resultar en acciones legales bajo las leyes de tecnología de la información y el código penal de India. “El incumplimiento de los requisitos anteriores será visto con seriedad y puede resultar en estrictas consecuencias legales contra su plataforma, sus funcionarios responsables y los usuarios que violen la ley, sin previo aviso”, señaló la orden.
Implicaciones para la regulación de IA en mercados globales
India, uno de los mercados digitales más grandes del mundo, se ha convertido en un caso de prueba crítico para determinar hasta dónde están dispuestos a llegar los gobiernos en responsabilizar a las plataformas por contenido generado por inteligencia artificial. Cualquier endurecimiento de la aplicación de normas en el país podría tener efectos en cadena para las empresas tecnológicas globales que operan en múltiples jurisdicciones.
Mientras tanto, X continúa desafiando aspectos de las reglas de regulación de contenido de India en los tribunales, argumentando que los poderes de eliminación del gobierno federal podrían resultar en excesos, aunque la plataforma ha cumplido con la mayoría de las directivas de bloqueo. Al mismo tiempo, Grok ha sido cada vez más utilizado por usuarios de X para verificación de hechos en tiempo real y comentarios sobre eventos noticiosos, haciendo sus resultados más visibles y políticamente sensibles que los de herramientas de IA independientes.
X y xAI no respondieron de inmediato a las solicitudes de comentarios sobre la orden del gobierno indio. Se espera que la plataforma presente su informe de acciones correctivas antes del vencimiento del plazo de 72 horas, aunque persiste la incertidumbre sobre si las medidas implementadas serán suficientes para satisfacer los requisitos regulatorios indios y evitar posibles sanciones legales.