La plataforma de videoconferencias Zoom anunció una alianza estratégica con World, la empresa de verificación de identidad humana fundada por Sam Altman, para implementar un sistema que garantice que los participantes en reuniones virtuales son personas reales y no impostores generados por inteligencia artificial. La nueva función de verificación humana utiliza tecnología biométrica avanzada para combatir el creciente fraude mediante deepfakes en llamadas corporativas.
Según el comunicado conjunto de ambas compañías, la integración permitirá a los anfitriones de reuniones activar una sala de espera que requiere verificación de identidad mediante el sistema World ID Deep Face antes de permitir el acceso a participantes.
El creciente problema del fraude con deepfakes
La amenaza de los deepfakes en videoconferencias representa un riesgo financiero significativo para las empresas. En el caso más notorio registrado hasta la fecha, la firma de ingeniería Arup perdió 25 millones de dólares a principios de 2024 cuando un empleado en Hong Kong autorizó transferencias bancarias durante una videollamada con quien parecía ser el director financiero de la compañía y varios colegas. Todas las personas en esa llamada, excepto la víctima, resultaron ser deepfakes generados por IA.
Las pérdidas financieras por fraude habilitado mediante deepfakes superaron los 200 millones de dólares solo en el primer trimestre del año pasado, según estimaciones de la industria de seguridad. Además, el promedio de pérdida por incidente corporativo ahora supera los 500,000 dólares, lo que convierte esta modalidad de fraude en una preocupación crítica para organizaciones que realizan transacciones de alto valor por video.
Cómo funciona la verificación humana en Zoom
El sistema World ID Deep Face emplea un enfoque de tres niveles para verificar la autenticidad de los participantes en videoconferencias. Según explicó World, la tecnología cruza una imagen firmada tomada durante el registro del usuario a través del dispositivo Orb de World, un escaneo facial en tiempo real desde el dispositivo del usuario y un fotograma de video en vivo visible para otros participantes.
La verificación solo se completa cuando los tres elementos coinciden, momento en el cual aparece una insignia de “Humano Verificado” junto al nombre del participante. Los anfitriones pueden habilitar una sala de espera Deep Face que requiere que todos los asistentes verifiquen su identidad antes de unirse, mientras que los participantes también pueden solicitar durante la reunión que alguien se verifique en el momento.
Limitaciones de los métodos tradicionales
World señaló que los esfuerzos existentes para detectar deepfakes en reuniones se limitan principalmente a analizar fotogramas de video en busca de signos reveladores de manipulación por IA. Sin embargo, ambas compañías advirtieron que estos métodos de detección fotograma por fotograma son cada vez menos confiables a medida que los modelos de video generativos mejoran su calidad y realismo.
Expansión del ecosistema de verificación de World
Travis Isaman, portavoz de Zoom, declaró por correo electrónico que “esta integración es parte del enfoque de ecosistema abierto de Zoom, brindando a los clientes más formas de incorporar confianza en sus flujos de trabajo según lo que más importa para su caso de uso”. La asociación representa un movimiento estratégico en el mercado empresarial de videoconferencias, donde la seguridad se ha convertido en un diferenciador clave.
Más allá de Zoom, World ha estado construyendo alianzas con diversas plataformas de consumo, incluyendo Tinder y Visa, para servicios de verificación humana. El mes pasado, la compañía lanzó tecnología para verificar que humanos reales, en lugar de programas automatizados de IA, están detrás de agentes de compras con inteligencia artificial en el punto de venta.
La implementación de esta tecnología de verificación humana en Zoom marca un nuevo capítulo en la evolución de las plataformas de comunicación empresarial. Aunque no se especificó una fecha de lanzamiento completo, se espera que la función esté disponible gradualmente para usuarios corporativos en los próximos meses. La efectividad real del sistema dependerá de su adopción por parte de las empresas y de la capacidad de World para mantener su tecnología por delante de los avances en generación de deepfakes.