Una información errónea generada con ayuda de inteligencia artificial estuvo a punto de desencadenar una operación militar de Estados Unidos contra una embarcación china en Medio Oriente, en medio del conflicto con Irán.
El episodio fue revelado por una investigación de CNN publicada el 18 de septiembre, que recogió testimonios de cuatro fuentes familiarizadas con lo ocurrido durante la primavera boreal.
Según los antecedentes, aviones militares estadounidenses ya se encontraban en el aire y soldados armados esperaban la orden para abordar un buque chino, ante la sospecha de que transportaba componentes destinados a un programa de armas nucleares.
Sin embargo, la operación fue suspendida apenas minutos antes de ejecutarse, luego de que se revisara el origen de la información que había motivado el despliegue.
La investigación estableció que el reporte había sido elaborado con apoyo de un chatbot de inteligencia artificial que identificó erróneamente la carga de la embarcación.
El problema se originó cuando un analista del Comando de Operaciones Especiales del Pacífico, con sede en Hawái, utilizó esta tecnología para examinar antecedentes relacionados con el manifiesto de carga del buque.
El sistema combinó información disponible públicamente con datos de inteligencia clasificados y llegó a una conclusión equivocada. Posteriormente, el mismo analista utilizó la herramienta para redactar un informe formal que circuló por distintos niveles del mando militar.
De acuerdo con CNN, no se logró establecer qué material transportaba realmente la nave ni cuál fue el sistema de inteligencia artificial utilizado.
Una de las fuentes consultadas advirtió que el incidente estuvo cerca de provocar un enfrentamiento armado entre Estados Unidos y China, debido a las consecuencias que podría haber tenido una intervención militar contra la embarcación.
Preocupación por el uso de inteligencia artificial en decisiones militares
El caso se conoce en momentos en que el Departamento de Defensa estadounidense impulsa una mayor incorporación de inteligencia artificial en tareas de análisis, logística y operaciones militares.
En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia destinada a acelerar el uso de estas tecnologías entre los cerca de tres millones de funcionarios civiles y militares de la institución.
No obstante, funcionarios consultados por CNN advirtieron que distintas unidades utilizan herramientas y procedimientos diferentes, sin que exista un estándar único para verificar la información generada por estos sistemas.
La situación ha reabierto el debate sobre las denominadas alucinaciones de la inteligencia artificial, fenómeno que ocurre cuando estas herramientas producen información falsa o distorsionada que puede presentarse como confiable.
Especialistas en seguridad de Estados Unidos y China han planteado la necesidad de establecer mayores garantías para su utilización en sistemas nucleares, operaciones cibernéticas y decisiones militares sensibles, manteniendo la supervisión humana sobre los procesos.
