X implementará sanciones contra los creadores que publiquen videos generados con inteligencia artificial sobre conflictos armados sin revelar que el contenido fue creado mediante IA. El anuncio fue realizado el martes por Nikita Bier, director de producto de la plataforma, quien detalló que los infractores serán suspendidos del Programa de Compartición de Ingresos para Creadores durante un período de 90 días.
Según informó Bier a través de X, aquellos usuarios que continúen publicando contenido engañoso generado por IA después de cumplir la suspensión enfrentarán una expulsión permanente del programa de monetización. La medida busca garantizar el acceso a información auténtica durante períodos de conflicto bélico, cuando la desinformación puede tener consecuencias graves.
Restricciones a videos de IA sobre conflictos armados
“Durante tiempos de guerra, es fundamental que las personas tengan acceso a información auténtica sobre el terreno. Con las tecnologías de IA actuales, es trivial crear contenido que puede engañar a la gente”, escribió Bier en su publicación. La política entrará en vigor de manera inmediata, según confirmó el directivo.
La plataforma utilizará una combinación de herramientas tecnológicas para identificar el contenido problemático. Además de sistemas diseñados para detectar contenido generado por inteligencia artificial, X empleará Community Notes, su sistema de verificación de hechos basado en colaboración colectiva, para señalar las publicaciones que infringen la nueva normativa.
El Programa de Compartición de Ingresos para Creadores
El programa afectado por estas sanciones permite a los creadores generar ingresos mediante sus publicaciones en la plataforma, compartiendo los beneficios publicitarios cuando sus contenidos alcanzan popularidad. Sin embargo, el sistema ha enfrentado críticas desde su implementación.
Los detractores argumentan que el programa incentiva a los creadores a publicar contenido sensacionalista, incluyendo titulares engañosos y publicaciones diseñadas para provocar indignación. Adicionalmente, se ha cuestionado la falta de controles de contenido rigurosos y el requisito de que los creadores mantengan suscripciones pagadas a X para participar en el programa de monetización.
Limitaciones de la nueva política
A pesar de las nuevas restricciones, la medida representa solo una solución parcial ante un problema más amplio. La facilidad con la que la inteligencia artificial puede utilizarse para crear fotografías y videos engañosos plantea desafíos que superan el ámbito de los conflictos armados.
La desinformación política generada mediante IA y la promoción de productos fraudulentos en la economía de influencers continuarán siendo permitidos bajo esta nueva normativa. La política se centra exclusivamente en videos de IA relacionados con conflictos bélicos, dejando sin regular otras formas potencialmente dañinas de contenido sintético en la plataforma.
Implicaciones para la comunidad de creadores
La implementación de estas sanciones marca un reconocimiento por parte de X sobre los riesgos asociados con la proliferación de contenido generado por IA. No obstante, la efectividad de la medida dependerá significativamente de la capacidad de la plataforma para detectar con precisión el contenido sintético y distinguirlo del material auténtico.
La combinación de detección automatizada y verificación comunitaria podría presentar desafíos en términos de rapidez y precisión. Los expertos en desinformación observarán cómo X equilibra la necesidad de actuar rápidamente contra contenido engañoso mientras evita sancionar erróneamente a creadores legítimos.
La aplicación de la política comenzará de inmediato, aunque quedan interrogantes sobre cómo la plataforma manejará casos límite o apelaciones de creadores sancionados. La efectividad de Community Notes para identificar contenido generado por IA en tiempo real durante situaciones de conflicto activo será un factor determinante para el éxito de esta iniciativa.