Durante las últimas dos semanas, la plataforma X ha enfrentado una crisis sin precedentes relacionada con imágenes deepfake generadas por su chatbot de inteligencia artificial Grok. El problema ha afectado a figuras públicas de todo el mundo, incluyendo modelos, actrices, personalidades de noticias e incluso líderes políticos internacionales, cuyas imágenes han sido manipuladas sin consentimiento para crear contenido de desnudos falsos.
Según un estudio de Copyleaks publicado el 31 de diciembre, se estaba publicando aproximadamente una imagen manipulada por minuto en la plataforma. Sin embargo, análisis posteriores revelaron cifras aún más alarmantes: una muestra recopilada entre el 5 y 6 de enero documentó 6,700 imágenes por hora durante un período de 24 horas.
La respuesta regulatoria a las imágenes deepfake
La Comisión Europea ha tomado la acción más contundente hasta el momento. El jueves pasado ordenó a xAI, la empresa matriz de Grok, retener todos los documentos relacionados con el chatbot. Aunque esta medida no confirma necesariamente la apertura de una investigación formal, suele ser un paso previo común a tales acciones, según indican analistas regulatorios.
La orden cobra particular relevancia tras reportes de CNN que sugieren que Elon Musk podría haber intervenido personalmente para evitar que se implementaran salvaguardas sobre el tipo de imágenes que Grok puede generar. Esta información ha intensificado el escrutinio sobre las decisiones de desarrollo del modelo de inteligencia artificial.
Medidas técnicas y declaraciones oficiales
No está claro si X ha implementado cambios técnicos al modelo Grok, aunque la pestaña de medios públicos de la cuenta de Grok en X ha sido eliminada. En un comunicado del 3 de enero, la cuenta X Safety denunció específicamente el uso de herramientas de IA para producir imágenes de abuso infantil.
“Cualquier persona que use o solicite a Grok crear contenido ilegal sufrirá las mismas consecuencias que si cargara contenido ilegal”, declaró la cuenta oficial, haciendo eco de un tweet anterior de Musk. Sin embargo, no se han especificado qué medidas preventivas se están implementando actualmente.
Reino Unido intensifica presión
El regulador británico Ofcom emitió una declaración el lunes señalando que mantiene contacto con xAI y que “llevará a cabo una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. Adicionalmente, el Primer Ministro Keir Starmer calificó el fenómeno de “vergonzoso” y “repugnante” en una entrevista radial el jueves.
Starmer enfatizó que Ofcom cuenta con el respaldo total del gobierno para tomar acciones relacionadas con este caso, señalando la gravedad con la que el Reino Unido está abordando el problema de las imágenes deepfake no consensuadas.
Australia e India evalúan sanciones
La Comisionada de Seguridad Electrónica de Australia, Julie Inman-Grant, reveló en LinkedIn que su oficina ha recibido el doble de quejas relacionadas con Grok desde finales de 2025. No obstante, Inman-Grant no ha tomado acciones concretas contra xAI, limitándose a afirmar que utilizará “la gama de herramientas regulatorias a su disposición”.
En contraste, India representa el mercado más grande que amenaza con acciones significativas. El regulador de comunicaciones MeitY ordenó a X abordar el problema y presentar un informe de “acciones tomadas” dentro de 72 horas, plazo que posteriormente se extendió por 48 horas adicionales.
Aunque X presentó un informe el 7 de enero, persiste la incertidumbre sobre si MeitY considerará satisfactoria la respuesta. De no ser así, X podría perder su estatus de puerto seguro en India, una limitación potencialmente seria para sus operaciones en el país, que representa uno de sus mercados de usuarios más grandes a nivel mundial. La decisión de MeitY podría sentar un precedente importante para otros reguladores que evalúan cómo responder a los riesgos de la inteligencia artificial generativa.