Una inteligencia artificial estuvo a punto de abrir un nuevo frente de conflicto entre Estados Unidos y China. Según detalló CNN, el Ejército estadounidense desplegó aeronaves luego de que un chatbot informara que un buque del gigante asiático transportaba armas nucleares. La información luego fue desmentida.
La operación militar se canceló cuando los aviones de Estados Unidos avanzaban hacia su objetivo. El incidente ocurrió durante el conflicto de aquel país con Irán, en la primavera del hemisferio norte.
Por qué la IA inventó que el buque llevaba armas nucleares
Este episodio pone de relieve una preocupación creciente entre los mandos militares y los expertos externos. "A medida que quienes toman decisiones dependen más de la IA, los errores generados por estos sistemas pueden ascender por la cadena de mando antes de ser cuestionados", señaló la fuente.
En este caso, la falsa alarma provino de un analista al mando de Operaciones Especiales en el Ejército de Estados Unidos. El analista consultó a un chatbot de IA, que sintetizó fuentes abiertas con información clasificada e identificó erróneamente la carga del barco. Luego dio formato a los hallazgos con la misma herramienta y el reporte se distribuyó a los canales de mando.
El desliz se atribuye a las alucinaciones de la inteligencia artificial. Se trata de resultados incorrectos, inexactos o engañosos que generan los modelos de IA.
Esos errores pueden deberse a diferentes factores, como datos de entrenamiento insuficientes o incompletos, superposiciones incorrectas y sesgos en los datos utilizados para entrenar al modelo. Además, los modelos de IA también pueden ser vulnerables a ciberataques, en los que sus datos son manipulados.
El riesgo de las alucinaciones en el ámbito militar
Las alucinaciones pueden resultar triviales en ciertos usos. Con repercusiones que no generan daños de magnitud. Pero escalan en peligrosidad a medida que las herramientas de IA se utilizan para la toma de decisiones en diversos sectores. El uso de estas tecnologías en el ámbito militar es un claro ejemplo de ello.
El incidente se produjo en un momento en el que el Ejército de Estados Unidos integra crecientemente tecnologías automatizadas para acelerar sus acciones. En ese marco, el Pentágono describió a la IA como un factor que aporta una ventaja significativa, permitiendo a los comandantes responder en el momento oportuno.
La advertencia de los expertos
"Es importante que el personal militar comprenda la incertidumbre inherente a los modelos de lenguaje de gran tamaño", señaló Jake Steckler, veterano del Ejército estadounidense, en diálogo con TechCrunch. "Esto resulta especialmente crítico en decisiones que podrían conducir al uso de la fuerza, como la selección de objetivos, el análisis de inteligencia o la planificación operativa. Esas decisiones conllevan consecuencias de vida o muerte", advirtió.
"Priorizar la velocidad de adopción por encima de todo probablemente conducirá a incidentes que solo lograrán que el personal militar pierda la confianza en estos sistemas", concluyó Steckler.
Recientemente, en el contexto del acalorado debate sobre los riesgos relacionados a los avances en inteligencia artificial, Donald Trump dijo que elegirá a un zar de la IA, al tiempo que desestimó los pedidos para regular los desarrollos en ese sector. El episodio del buque chino y la falsa alarma nuclear refuerza la necesidad de controles más estrictos en el uso militar de estas tecnologías.
