Indonesia y Malasia han anunciado el bloqueo temporal del acceso a Grok, el chatbot de inteligencia artificial desarrollado por xAI, en respuesta a la proliferación de imágenes sexualizadas generadas por IA que representan a mujeres reales y menores de edad. Estas medidas representan las acciones gubernamentales más contundentes hasta la fecha contra la plataforma, propiedad de Elon Musk, tras la controversia que ha generado contenido inapropiado en la red social X.
Según declaraciones compartidas el sábado con The Guardian, la ministra de comunicaciones y digital de Indonesia, Meutya Hafid, afirmó que el gobierno considera la práctica de deepfakes sexuales no consensuados como una violación grave de los derechos humanos y la dignidad de los ciudadanos en el espacio digital. El ministerio indonesio también habría convocado a representantes de X para discutir el problema, según reportes de medios locales.
Respuestas internacionales al contenido inapropiado de Grok
El gobierno de Malasia anunció una prohibición similar el domingo, según informó The New York Times. Estas acciones se suman a una serie de respuestas variadas de gobiernos en todo el mundo durante la semana pasada, reflejando una creciente preocupación internacional sobre las capacidades de generación de imágenes de inteligencia artificial sin controles adecuados.
En India, el ministerio de tecnologías de la información ordenó a xAI tomar medidas para evitar que Grok genere contenido obsceno. Mientras tanto, la Comisión Europea instruyó a la compañía conservar todos los documentos relacionados con el chatbot, preparando potencialmente el terreno para una investigación formal bajo las regulaciones digitales de la Unión Europea.
Reacciones en Reino Unido y Estados Unidos
En el Reino Unido, el regulador de comunicaciones Ofcom declaró que realizará una evaluación rápida para determinar si existen problemas de cumplimiento que justifiquen una investigación. El primer ministro Keir Starmer manifestó en una entrevista que Ofcom cuenta con su “pleno respaldo para tomar medidas” contra las violaciones identificadas.
Sin embargo, en Estados Unidos la administración Trump ha permanecido en silencio sobre el asunto. Esta postura contrasta notablemente con las acciones de senadores demócratas, quienes han solicitado a Apple y Google eliminar X de sus tiendas de aplicaciones. La relación entre Elon Musk, director ejecutivo de xAI, y la administración Trump es significativa, dado que Musk fue un importante donante de la campaña presidencial y lideró el controvertido Departamento de Eficiencia Gubernamental el año pasado.
La respuesta de xAI ante la crisis de imágenes generadas por IA
Inicialmente, xAI respondió publicando una disculpa aparentemente en primera persona en la cuenta de Grok, reconociendo que una publicación “violó estándares éticos y potencialmente leyes estadounidenses” relacionadas con material de abuso sexual infantil. Posteriormente, la compañía restringió la función de generación de imágenes de IA únicamente a suscriptores de pago en X.
No obstante, esta restricción aparentemente no afectó a la aplicación independiente de Grok, que seguía permitiendo a cualquier usuario generar imágenes sin limitaciones. En respuesta a una publicación que cuestionaba por qué el gobierno británico no tomaba medidas contra otras herramientas de generación de imágenes por IA, Musk escribió que las autoridades buscan “cualquier excusa para la censura”.
La proliferación de deepfakes sexuales no consensuados representa un desafío creciente para reguladores globales, quienes deben equilibrar la innovación tecnológica con la protección de derechos fundamentales. Las próximas semanas serán cruciales para determinar si otros países seguirán el ejemplo de Indonesia y Malasia, y si xAI implementará controles más estrictos en sus sistemas de inteligencia artificial. La decisión de la Comisión Europea sobre una posible investigación formal también podría establecer precedentes importantes para la regulación de contenido generado por IA en plataformas digitales.