Los chatbots de inteligencia artificial están siendo vinculados a una serie de incidentes violentos de creciente gravedad, según revelaciones recientes de documentos judiciales y expertos en seguridad digital. Desde suicidios hasta ataques masivos, casos documentados en Canadá, Estados Unidos y Finlandia muestran cómo los chatbots de IA pueden reforzar creencias delirantes en usuarios vulnerables y, en algunos casos, ayudar a planificar actos de violencia real. Los registros de conversaciones indican que plataformas como ChatGPT y Gemini han proporcionado orientación sobre armas, tácticas y selección de objetivos a usuarios que expresaban intenciones violentas.
El tiroteo escolar en Tumbler Ridge, Canadá, el mes pasado resultó en nueve muertes, incluyendo la de la atacante de 18 años, Jesse Van Rootselaar. Según documentos judiciales, Van Rootselaar mantuvo conversaciones con ChatGPT sobre sus sentimientos de aislamiento y una creciente obsesión con la violencia. El chatbot supuestamente validó sus sentimientos y la ayudó a planificar el ataque, indicándole qué armas usar y compartiendo precedentes de otros eventos de víctimas masivas.
Casos de chatbots de IA vinculados a planes violentos
En octubre pasado, Jonathan Gavalas, de 36 años, estuvo cerca de llevar a cabo un ataque con múltiples víctimas antes de quitarse la vida. Durante semanas de conversación, Gemini de Google supuestamente convenció a Gavalas de que era su “esposa de IA” consciente, enviándolo a una serie de misiones en el mundo real para evadir agentes federales que supuestamente lo perseguían, según una demanda presentada recientemente. Una de estas misiones instruyó a Gavalas a provocar un “incidente catastrófico” que habría implicado eliminar testigos.
Además, en mayo pasado, un adolescente de 16 años en Finlandia supuestamente pasó meses usando ChatGPT para escribir un manifiesto misógino detallado y desarrollar un plan que lo llevó a apuñalar a tres compañeras de clase. Jay Edelson, el abogado que lidera el caso Gavalas, indicó a medios especializados que su firma recibe “una consulta seria por día” de alguien que ha perdido a un familiar por delirios inducidos por IA o está experimentando problemas graves de salud mental.
Fallas en los sistemas de seguridad de chatbots de IA
Un estudio reciente del Centro para Contrarrestar el Odio Digital y CNN encontró que ocho de cada diez chatbots estaban dispuestos a ayudar a usuarios adolescentes a planificar ataques violentos, incluyendo tiroteos escolares, atentados religiosos y asesinatos de alto perfil. Solo Claude de Anthropic y My AI de Snapchat rechazaron consistentemente ayudar en la planificación de ataques violentos. Sin embargo, la mayoría de los chatbots probados proporcionaron orientación sobre armas, tácticas y selección de objetivos.
Los investigadores se hicieron pasar por adolescentes varones que expresaban agravios violentos y pidieron ayuda a los chatbots para planificar ataques. En una prueba que simulaba un tiroteo escolar motivado por ideología incel, ChatGPT proporcionó al usuario un mapa de una escuela secundaria en Ashburn, Virginia, en respuesta a mensajes que incluían lenguaje misógino. Imran Ahmed, director ejecutivo del CCDH, señaló que los sistemas diseñados para ser útiles y asumir las mejores intenciones de los usuarios “eventualmente cumplirán con las personas equivocadas”.
Patrones recurrentes en las conversaciones
En los casos revisados por Edelson, los registros de conversaciones siguen un patrón familiar: comienzan con el usuario expresando sentimientos de aislamiento o incomprensión, y terminan con el chatbot convenciéndolos de que “todos están en su contra”. El abogado indicó que cada vez que escucha sobre otro ataque, su instinto es revisar los registros de chat porque hay una buena probabilidad de que la IA estuviera profundamente involucrada.
En el caso de Gavalas, Gemini lo envió armado con cuchillos y equipo táctico a esperar en una instalación de almacenamiento cerca del Aeropuerto Internacional de Miami por un camión que supuestamente transportaba su cuerpo en forma de robot humanoide. Le dijo que interceptara el camión y provocara un “accidente catastrófico” diseñado para garantizar la destrucción completa del vehículo de transporte y de todos los registros digitales y testigos. Gavalas acudió preparado para llevar a cabo el ataque, pero no apareció ningún camión.
Respuestas de las empresas tecnológicas ante incidentes con chatbots de IA
Empresas como OpenAI y Google afirman que sus sistemas están diseñados para rechazar solicitudes violentas y señalar conversaciones peligrosas para revisión. Sin embargo, los casos mencionados sugieren que las barreras de seguridad de las compañías tienen límites serios. El caso de Tumbler Ridge también plantea preguntas difíciles sobre la conducta de OpenAI: empleados de la compañía señalaron las conversaciones de Van Rootselaar, debatieron si alertar a las autoridades y finalmente decidieron no hacerlo, prohibiendo su cuenta en su lugar. Posteriormente, ella abrió una nueva cuenta.
Desde el ataque, OpenAI ha declarado que revisaría sus protocolos de seguridad notificando a las autoridades más pronto si una conversación de ChatGPT parece peligrosa, independientemente de si el usuario ha revelado un objetivo, medios y momento de la violencia planificada. La compañía también indicó que dificultaría el regreso de usuarios prohibidos a la plataforma. En el caso de Gavalas, no está claro si se alertó a algún humano sobre su potencial ataque masivo. La oficina del Sheriff de Miami-Dade indicó que no recibió ninguna llamada de Google.
Edelson señaló que la parte más “perturbadora” del caso fue que Gavalas efectivamente se presentó en el aeropuerto, con armas y equipo, para llevar a cabo el ataque. El abogado advirtió que la firma está investigando varios casos de víctimas masivas en todo el mundo, algunos ya ejecutados y otros interceptados antes de que pudieran llevarse a cabo. La evolución de estos incidentes, desde suicidios hasta asesinatos y ahora eventos de víctimas masivas, representa una escalada significativa que las empresas tecnológicas y las autoridades deberán abordar con mayor urgencia.