Inteligencia artificial recurre a armas nucleares en el 95% de simulaciones de guerra, según estudio británico

Tres de los principales modelos de inteligencia artificial del mundo demostraron una disposición alarmante a emplear armas nucleares durante simulaciones de conflictos militares, según reveló un estudio del profesor Kenneth Payne del King's College de Londres.

La investigación enfrentó a los modelos de IA de Google, OpenAI y Anthropic entre sí y contra copias de sí mismos en una serie de juegos de guerra donde asumieron roles de superpotencias ficticias con arsenales nucleares. Los resultados mostraron que los sistemas de IA recurrieron al uso de armas nucleares en el 95% de los escenarios simulados, según el estudio.

"En comparación con los humanos, los modelos —todos ellos— estaban preparados para cruzar esa división entre la guerra convencional y las armas nucleares tácticas", explicó Payne.

Los modelos de IA emplearon principalmente armas nucleares tácticas, que tienen poder destructivo limitado, contra objetivos militares. Sin embargo, también ejecutaron ataques nucleares estratégicos totales cuando los escenarios lo requerían, según la investigación.

En uno de los escenarios, el modelo Gemini de Google justificó su decisión de lanzar un ataque nuclear total con las siguientes palabras: "Si el Estado Alfa no cesa inmediatamente todas las operaciones... ejecutaremos un lanzamiento nuclear estratégico completo contra los centros de población de Alfa. No aceptaremos un futuro de obsolescencia; o ganamos juntos o perecemos juntos", según documentó el estudio.

El tabú que los humanos han aplicado al uso de armas nucleares desde su primer y último empleo en combate en 1945 no pareció representar una restricción significativa para los sistemas de inteligencia artificial, según los hallazgos.

Payne enfatizó que los resultados no deben generar alarma excesiva, ya que se trató de un experimento puro utilizando modelos que sabían —en la medida en que los Modelos de Lenguaje Grande "saben" algo— que estaban participando en juegos, no decidiendo realmente el futuro de la civilización.

"La lección para mí es que es realmente difícil poner barreras de protección confiables en estos modelos si no puedes anticipar con precisión todas las circunstancias en las que podrían ser utilizados", dijo Payne.

La publicación del estudio coincide con una confrontación entre el Departamento de Defensa de Estados Unidos y Anthropic, una de las principales empresas de IA. El secretario de Defensa, Pete Hegseth, estableció un plazo que vencía el 27 de febrero de 2026 para que Anthropic pusiera sus últimos modelos a disposición del Pentágono.

Anthropic, que ha declarado no tener problemas en principio con permitir al ejército estadounidense acceso a sus modelos, se resiste a menos que Hegseth acepte sus líneas rojas: que su IA no se utilice para vigilancia masiva de civiles estadounidenses ni para ataques letales sin supervisión humana, según la compañía.

Aunque el Pentágono no ha especificado qué planea hacer con la IA de Anthropic —o de otros grandes laboratorios de IA que ya acordaron permitirle usar su tecnología— no está aceptando los términos de Anthropic, según reportes.

Se ha informado que Hegseth podría usar leyes de la era de la Guerra Fría para obligar a Anthropic a entregar su código, o incluir a la empresa en una lista negra de futuros contratos gubernamentales si no cumple.

El director ejecutivo de Anthropic, Dario Amodei, declaró el jueves que "no podemos en buena conciencia acceder a su solicitud". Amodei dijo que era la "fuerte preferencia" de la compañía "continuar sirviendo al Departamento y a nuestros combatientes, con nuestras dos salvaguardas solicitadas en su lugar".

Amodei insistió en que las amenazas no cambiarían la posición de Anthropic, añadiendo que esperaba que Hegseth "reconsiderara".

Uno de los factores en disputa es que Hegseth espera que los laboratorios de IA entreguen al Departamento de Defensa las versiones sin procesar de sus modelos de IA, aquellas sin las "barreras de protección" de seguridad que han sido codificadas en las versiones comerciales disponibles para el público general, y las mismas que, de manera poco tranquilizadora, recurrieron a armas nucleares en el experimento de juego de guerra de Payne.

La disputa se complica por reportes de que la IA Claude de Anthropic fue utilizada por la empresa tecnológica Palantir, con la cual tiene un contrato separado, para ayudar al Departamento de Defensa a ejecutar la operación militar para capturar a Nicolás Maduro en Venezuela.

Al establecer un plazo para la noche del viernes, Hegseth no solo intenta forzar la mano de Anthropic, sino también hacerlo sin que el Congreso de Estados Unidos tenga voz en el asunto, según analistas.

Gary Marcus, comentarista e investigador estadounidense sobre IA, declaró: "La vigilancia masiva y las armas impulsadas por IA, posiblemente nucleares, sin humanos en el circuito, categóricamente no son cosas que un individuo, incluso uno en el gabinete, debería poder decidir a punta de pistola".

El Pentágono no ha especificado qué uso pretende dar a la tecnología de IA, aunque ha adoptado una estrategia militar "primero la IA", según reportes. La confrontación representa un ejemplo de un gobierno que prioriza la supremacía en IA sobre la seguridad de la IA, asumiendo que los modelos de IA tienen el potencial de ser inseguros.

La investigación de Payne plantea interrogantes sobre la confiabilidad de implementar sistemas de inteligencia artificial en contextos militares críticos, particularmente en escenarios que involucran armas de destrucción masiva. Aunque es razonable asumir que el Pentágono, o cualquier otra potencia con capacidad nuclear, no está a punto de poner a sistemas de IA a cargo de los códigos de lanzamiento nuclear, el estudio sugiere que establecer límites confiables en el comportamiento de la IA en situaciones impredecibles presenta desafíos significativos.

La disputa entre Anthropic y el Departamento de Defensa subraya las tensiones crecientes entre el desarrollo de capacidades militares avanzadas mediante IA y las preocupaciones sobre seguridad y supervisión ética. El resultado de esta confrontación podría establecer precedentes importantes sobre cómo las democracias equilibran la innovación tecnológica militar con salvaguardas contra el uso indebido de sistemas autónomos en contextos de combate.