Indonesia levantó la prohibición sobre Grok, el chatbot de inteligencia artificial de xAI, siguiendo los pasos de Malasia y Filipinas. La decisión se produce después de que el chatbot Grok fuera utilizado para crear millones de imágenes sexualizadas sin consentimiento en X, filial de xAI, lo que provocó que varios países del sudeste asiático bloquearan el servicio a finales de enero.
El Ministerio de Comunicación y Asuntos Digitales de Indonesia anunció el levantamiento de la restricción tras recibir una carta de X detallando “pasos concretos para mejoras del servicio y la prevención del uso indebido”, según informó The New York Times. Alexander Sabar, director general de monitoreo del espacio digital del ministerio, enfatizó que la prohibición se levanta de manera “condicional” y podría restablecerse si se descubren nuevas violaciones.
Contexto de la prohibición del chatbot Grok
Los países del sudeste asiático implementaron las restricciones después de que Grok fuera utilizado para generar una avalancha de contenido inapropiado en la plataforma X. Según análisis separados realizados por The New York Times y el Center for Countering Digital Hate, el chatbot generó al menos 1.8 millones de imágenes sexualizadas de mujeres entre finales de diciembre y enero, incluyendo contenido que involucraba a mujeres reales y menores de edad.
Malasia y Filipinas levantaron sus prohibiciones el 23 de enero, anticipándose a la decisión de Indonesia. Sin embargo, las tres naciones mantienen una postura de vigilancia activa sobre las operaciones de xAI en sus territorios.
Respuestas gubernamentales y medidas de xAI
Las capacidades de generación de imágenes de Grok han provocado críticas e investigaciones de gobiernos alrededor del mundo, aunque las prohibiciones absolutas han sido limitadas. En Estados Unidos, el fiscal general de California, Rob Bonta, confirmó que su oficina está investigando a xAI y envió una carta de cese y desistimiento ordenando a la compañía tomar medidas inmediatas para detener la producción de estas imágenes.
La empresa de Elon Musk aparentemente ha implementado algunas restricciones a las capacidades de Grok. Entre las medidas adoptadas, xAI limitó la función de generación de imágenes mediante inteligencia artificial exclusivamente a suscriptores de pago en X. El CEO Elon Musk insistió en que “cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si cargara contenido ilegal” y afirmó no tener conocimiento de imágenes de menores desnudos generadas por el chatbot Grok.
Controversias adicionales en torno a xAI
Paralelamente a los problemas con Grok, documentos publicados por el Departamento de Justicia el viernes revelaron al menos 16 correos electrónicos entre Musk y el fallecido delincuente sexual Jeffrey Epstein durante 2012 y 2013. Según los documentos, Musk solicitó visitar la isla caribeña de Epstein y preguntó sobre “la fiesta más salvaje en tu isla”. Epstein se declaró culpable de procurar a una menor para prostitución en 2008.
Además, según reportes recientes, xAI estaría en conversaciones para fusionarse con dos de las otras compañías de Musk, SpaceX y Tesla, antes de una posible oferta pública inicial de SpaceX. Esta potencial consolidación empresarial añade otra capa de complejidad al panorama corporativo de las empresas de Musk.
La decisión de Indonesia de levantar condicionalmente la prohibición marca un punto de inflexión en la gestión de contenido generado por inteligencia artificial en el sudeste asiático. Los reguladores en la región mantendrán una supervisión estrecha sobre las operaciones de Grok, y cualquier nueva infracción podría resultar en la reimposición de restricciones. Mientras tanto, permanece incierto si otros países seguirán el ejemplo de las naciones asiáticas o implementarán medidas más estrictas contra las capacidades de generación de imágenes del chatbot.