La compañía de inteligencia artificial de Elon Musk ha restringido el acceso a la función de generación de imágenes de Grok únicamente para suscriptores de pago en X, después de que la herramienta recibiera críticas internacionales por permitir a los usuarios crear imágenes sexualizadas y desnudos de mujeres y niños. El cambio representa un intento de xAI por controlar el uso indebido de su tecnología de generación de imágenes con IA tras semanas de controversia global.
Según respuestas enviadas a usuarios el viernes, Grok confirmó que solo los suscriptores de pago en X podrán generar y editar imágenes en la plataforma. Sin embargo, estas restricciones no se aplican a la aplicación de Grok, que al momento de la publicación seguía permitiendo a cualquier persona generar imágenes sin necesidad de una suscripción.
Controversia por imágenes sexualizadas generadas sin consentimiento
Inicialmente disponible para cualquier usuario con límites diarios, la función de generación de imágenes de Grok permitía cargar fotografías de cualquier persona y solicitar que la inteligencia artificial las editara o creara versiones sexualizadas o con desnudos. El resultado fue una ola masiva de imágenes sexualizadas no consentidas de menores, actores, modelos y figuras públicas, provocando la indignación de múltiples gobiernos.
La facilidad con la que los usuarios podían manipular imágenes sin restricciones significativas destacó las lagunas en los sistemas de moderación de contenido de xAI. Además, la situación planteó interrogantes sobre la responsabilidad de las empresas tecnológicas en la prevención del uso ilegal de herramientas de inteligencia artificial generativa.
Respuesta de X y Elon Musk ante las críticas
Tanto X como Musk han denunciado públicamente el uso de la herramienta para producir este tipo de imágenes, afirmando que la compañía mantendrá sus políticas contra la publicación de contenido ilegal en la plataforma de redes sociales. “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, escribió Musk en X la semana pasada.
No obstante, críticos señalan que las medidas de moderación llegaron tardíamente, después de que miles de imágenes inapropiadas ya habían sido generadas y compartidas. La empresa enfrenta ahora el desafío de equilibrar la innovación tecnológica con la protección de usuarios vulnerables.
Presión regulatoria internacional por el uso indebido de Grok
El Reino Unido, la Unión Europea e India han condenado públicamente a X y Grok por permitir este tipo de uso de sus capacidades de inteligencia artificial. La UE solicitó el jueves a xAI que conserve toda la documentación relacionada con el chatbot, según indicaron fuentes oficiales del bloque.
Mientras tanto, el ministerio de comunicaciones de India ordenó la semana pasada a X realizar cambios inmediatos para evitar que la función de generación de imágenes sea utilizada indebidamente, bajo riesgo de perder sus protecciones de puerto seguro en el país. Estas protecciones legales son fundamentales para que las plataformas tecnológicas operen sin ser consideradas responsables del contenido publicado por usuarios.
El organismo regulador de comunicaciones del Reino Unido también confirmó que se ha puesto en contacto con xAI sobre el problema, aunque no especificó qué acciones podría tomar en el futuro cercano.
Implicaciones para la regulación de inteligencia artificial
El caso de Grok subraya los desafíos que enfrentan los reguladores globales para mantener el ritmo con el rápido desarrollo de tecnologías de inteligencia artificial. La capacidad de generar imágenes realistas mediante IA ha superado la velocidad a la que se implementan salvaguardas adecuadas.
Las autoridades de múltiples jurisdicciones ahora estudian si las regulaciones existentes son suficientes para abordar los riesgos específicos de la IA generativa, particularmente en lo relacionado con imágenes de explotación sexual y contenido que afecta a menores.
La situación seguirá desarrollándose mientras los reguladores evalúan la respuesta de xAI a sus demandas. Las próximas semanas serán cruciales para determinar si las medidas implementadas por la compañía son suficientes o si se requerirán sanciones adicionales. Queda por verse si otras jurisdicciones seguirán el ejemplo de la UE e India con acciones regulatorias más estrictas contra la plataforma.