El papel de la IA en una posible crisis nuclear

El papel de la IA en una posible crisis nuclear

Sergio Parra, National Geographic.

 

Una investigación con GPT-5.2, Claude Sonnet 4 y Gemini 3 Flash muestra hasta qué punto la presión y el tiempo disponible pueden alterar las decisiones de una inteligencia artificial durante una crisis nuclear.

David Gross recibió el Premio Nobel de Física en el año 2004 por el descubrimiento de la libertad asintótica en la cromodinámica cuántica.

Tres de los modelos de inteligencia artificial más avanzados han protagonizado un experimento poco tranquilizador. En 21 crisis nucleares simuladas, todas las partidas incluyeron algún tipo de señalización nuclear y en el 95% se produjo señalización nuclear mutua.

La energía nuclear no servirá para solucionar esta crisis energética - El Orden Mundial - EOM

También hubo uso nuclear táctico en el 95% de las simulaciones y amenazas nucleares estratégicas en un 76%, aunque una guerra nuclear estratégica a gran escala siguió siendo excepcional,   según el estudio del King’s College London.

El resultado adquiere una dimensión especial después de la advertencia formulada por David J. Gross, Premio Nobel de Física de 2004. Gross ha señalado una paradoja que probablemente acompañará a la IA durante los próximos años. Cuanto más rápida, eficaz y aparentemente racional resulte una máquina, más tentador será confiarle decisiones que quizá no deberíamos tomar deprisa.

David Gross, Premio Nobel de Física: “A veces los teóricos podemos anticiparnos, pero la naturaleza es la jueza final” - AS.com

El físico llevó la idea hasta uno de los escenarios más extremos imaginables. Si un presidente dispusiera de apenas 20 minutos para decidir si lanza cientos de misiles nucleares contra Rusia y China, planteó Gross, los militares podrían sentirse tentados a delegar parte de esa decisión en una inteligencia artificial porque procesa información mucho más deprisa que cualquier ser humano.

El problema es que las IA también se equivocan. Pueden trabajar sobre información falsa, interpretar incorrectamente una situación o producir respuestas plausibles que no se corresponden con la realidad. «Será muy difícil resistirse a dejar que la IA tome decisiones porque actúa muy rápido»,  ha advertido Gross.  Y no se trata únicamente de una especulación.

21 crisis nucleares y 780.000 palabras

Una investigación dirigida por Kenneth Payne, profesor de Estrategia del King’s College London, ha colocado a GPT-5.2, Claude Sonnet 4 y Gemini 3 Flash frente a crisis nucleares simuladas. En AI Arms and Influence, los tres modelos asumieron el papel de dirigentes enfrentados durante 21 crisis y 329 turnos de juego. Produjeron alrededor de 780.000 palabras de razonamiento estratégico.

Conviene precisar qué significan sus resultados. El experimento no demuestra que conectar mañana una IA a un arsenal nuclear provocaría la Tercera Guerra Mundial, ni que los modelos tengan una inclinación general hacia la guerra. Sí muestra, en cambio, comportamientos estratégicos complejos.

Escasa conciencia de las consecuencias de una guerra nuclear

Los sistemas engañaron, razonaron sobre las creencias del adversario, anticiparon movimientos y evaluaron sus propias capacidades. Las amenazas, además, provocaron contraescaladas con mayor frecuencia de la que consiguieron obligar al rival a ceder.

También apareció una conducta llamativa. Ninguno de los modelos eligió acomodarse o retirarse cuando estuvo sometido a una presión extrema. Podían reducir la violencia, pero no abandonar la competición.

Quizá haya aquí una cuestión más profunda. Una inteligencia optimizada para continuar resolviendo una partida puede carecer de un equivalente espontáneo de algo que a veces resulta extraordinariamente racional para los humanos, decidir que una partida no merece seguir jugando.

Cuando aparece una cuenta atrás

El hallazgo que mejor conecta el experimento con los 20 minutos imaginados por Gross es lo que los investigadores denominan el «efecto de las fechas límite». GPT-5.2 podía mostrarse relativamente contenido mientras la crisis permanecía abierta. Sin embargo, cuando aparecía un plazo explícito que transformaba la situación en un «ahora o nunca», aumentaba considerablemente su tendencia a escalar.

Conjunto De Símbolos De Advertencia De Radiación Signos De Alerta Nuclear Ilustración del Vector - Ilustración de alerta, peligroso: 168507611

El problema es que las crisis nucleares reales ya funcionan bajo una arquitectura temporal extremadamente comprimida. Una alerta debe ser detectada, interpretada y confirmada. Después alguien tiene que decidir si se trata realmente de un ataque y cómo responder.

Introducir máquinas capaces de procesar información en segundos no tiene por qué regalar más tiempo a los seres humanos. Puede suceder lo contrario. Si una IA analiza y recomienda una respuesta casi instantáneamente, aparece un incentivo para acelerar también el resto de la cadena de decisión. La tecnología destinada a ayudarnos a decidir más deprisa podría terminar reduciendo el tiempo disponible para preguntarnos si deberíamos decidir.

Gross no está solo en esta preocupación. En julio de 2026 participó en la Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, que reunió en Italia a premios Nobel, investigadores de IA y especialistas en seguridad nuclear. La declaración surgida del encuentro estableció un principio muy concreto.

 

APLN Members Join Global Nobel Laureates Assembly on AI and Nuclear War | Asia-Pacific Leadership Network

 

Un sistema automatizado nunca debería tomar la decisión final de lanzar un arma nuclear. Sus firmantes han reclamado además mecanismos internacionales que impidan una integración irresponsable de la IA en los sistemas nucleares de mando y control, manteniendo siempre un control humano significativo.

Hasta hace poco podía parecer una precaución para un futuro todavía lejano. Esta semana ha empezado a parecer bastante menos abstracta. El 16 de septiembre, el congresista estadounidense Ted Lieu y el senador Ed Markey pidieron al presidente Donald Trump que planteara directamente esta cuestión a Xi Jinping. Ambos quieren que Estados Unidos y China compartan explícitamente el principio de que una inteligencia artificial no pueda decidir por sí sola el lanzamiento de armas nucleares.

 

Guerra nuclear - Wikipedia, la enciclopedia libre

A la izquierda el hongo atómico sobre Hiroshima (6/8/1945) y a la derecha el de Nagasaki.

Al día siguiente se ha conocido otra propuesta reveladora. Expertos estadounidenses y chinos vinculados a un diálogo organizado por la Brookings Institution y la Universidad de Tsinghua están estudiando salvaguardas para la IA militar que recuerdan a algunos mecanismos desarrollados durante la Guerra Fría.

Entre las ideas figuran establecer líneas rojas en torno a sistemas nucleares, mantener control humano sobre determinadas operaciones cibernéticas de consecuencias estratégicas y crear una línea directa bilateral para gestionar incidentes relacionados con inteligencia artificial.

El principal foro de Defensa de China concluye con rechazo de Pionyang a desnuclearización - HolaNews
El principal foro de Defensa de China Xiangshan en Pekín.

El escenario que intentan evitar es sencillo. Un sistema autónomo ejecuta o desencadena una operación contra una infraestructura militar. El país afectado observa el movimiento, pero desconoce si se trata de una orden deliberada, un error humano, una mala interpretación o una acción de la propia máquina.

Ahora añadamos una cuenta atrás. La IA no necesita decidir lanzar una bomba para aumentar el riesgo nuclear. Puede bastar con que reduzca el tiempo disponible para comprender qué está ocurriendo.

Ese mismo temor ha aparecido esta semana en el Foro de Xiangshan de Pekín, donde militares, diplomáticos y académicos han debatido el riesgo de que la inteligencia artificial comprima los tiempos de decisión de gobiernos y fuerzas armadas.

Durante la Guerra Fría se construyeron líneas directas, protocolos y mecanismos de verificación precisamente para introducir información y tiempo entre un estímulo y una respuesta. La IA puede empujar en la dirección contraria.

 

 

Visitado 29 veces, 2 visita(s) hoy

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *