La inteligencia artificial como multiplicador del riesgo nuclear
Los modelos lingüísticos avanzados y las falsificaciones profundas están transformando el entorno informativo en un factor de inestabilidad estratégica. El investigador de Stanford, Herbert Lin, ilustra, mediante tres escenarios de futuro cercano, cómo la desinformación impulsada por la IA podría empujar al mundo hacia una escalada nuclear.
Sobre el Autor. Herbert Lin es investigador sénior en la Universidad de Stanford y ex miembro del consejo editorial de la revista. Boletín de los científicos atómicos, uno de los investigadores más destacados de Estados Unidos en la intersección de la ciberseguridad, la guerra de la información y la política nuclear.
En los últimos años, los analistas han señalado cada vez más que La corrupción o el mal funcionamiento del entorno global de la información pueden aumentar el riesgo nuclear.Esto incluye no solo la desinformación y los mensajes deliberadamente falsos, sino también el contenido provocador, la información técnicamente fiable pero engañosa y la distracción deliberada.
El rápido desarrollo de la inteligencia artificial, principalmente los grandes modelos de lenguaje (grandes modelos de lenguaje, LLM, – sistemas como ChatGPT o GrokEsto ha transformado radicalmente el panorama. La generación automática de grandes cantidades de texto, y cada vez más de imágenes y vídeos, ha convertido a LLM en quizás la herramienta más eficaz para quienes buscan distorsionar el entorno informativo. Estos sistemas superan con creces los métodos anteriores para producir dicho contenido, y la barrera de entrada se ha reducido significativamente: un número mucho mayor de atacantes potenciales tiene acceso a estas oportunidades.
En su artículo, Lin examina tres escenarios hipotéticos pero plausibles sobre cómo la corrupción de información potenciada por la IA podría aumentar el riesgo de una escalada nuclear. Algunos elementos ya se han observado en la realidad, aunque sin la intervención de la IA. Cada escenario se desarrolla tras la salida del actual gobierno estadounidense en enero de 2029.
A estas alturas, quedan pocos profesionales de inteligencia experimentados en el nuevo gobierno estadounidense. Los funcionarios de nivel medio y subalterno, conscientes de las consecuencias para los autores de informes "incómodos", están ajustando discretamente sus conclusiones. Los métodos analíticos tradicionales se están abandonando gradualmente. Los altos mandos militares y de inteligencia retirados que cuestionan las declaraciones oficiales de la Casa Blanca se enfrentan a la censura pública y a la presión personal, amplificadas enormemente por las nuevas herramientas de IA, por no mencionar las investigaciones del Congreso y las auditorías fiscales.
Escenario 1: Invasión de Taiwán (2029)
El escenario se centra en plataformas y servicios que facilitan la comunicación entre ciudadanos de diferentes países: chats informales, aplicaciones de citas, plataformas en línea y plataformas de juegos. Todas ellas proporcionan acceso directo, aunque algo "ruidoso", a las perspectivas locales. Los sitios de intercambio de idiomas y los foros internacionales permiten a los extranjeros hacer preguntas a los locales sobre la vida cotidiana y las crisis, mientras que los canales de voz Discord Proporcionar diálogo multivoz en tiempo real.
Estos canales se han utilizado desde hace tiempo de forma espontánea para verificar información: los usuarios comparten información sobre bloqueos, subidas de precios o actividad militar con sus contactos extranjeros, además de los acontecimientos cotidianos habituales.
Finales de 2029. China impone un bloqueo a Taiwán. Los servicios de inteligencia de señales estadounidenses detectan señales frente a la costa de la provincia de Fujian, la más cercana a Taiwán, lo que indica posibles lanzamientos de telefonía móvil. cohetesLas redes sociales chinas se están llenando de mensajes supuestamente provenientes de residentes de Fujian. Utilizando fotos y jerga local, describen camiones con misiles que recorren las calles de Fuzhou en dirección al mar.
Estas cuentas son operadas por unidades cibernéticas militares chinas que utilizan sofisticados chatbots entrenados en dialectos regionales. El objetivo es proyectar una imagen de alta preparación militar y disuadir a Estados Unidos de interferir. Contratistas y voluntarios patriotas, con un control laxo, operan en paralelo, lo que proporciona a Pekín una "negación plausible" pero debilita su control centralizado sobre el espacio informativo.
Estas cuentas utilizan las identidades de profesionales o estudiantes "aislados" por la crisis. Atraen a periodistas, analistas e incluso funcionarios de nivel medio del Pentágono que buscan información "sin filtros". En un episodio, un bot que suplanta la identidad de un ingeniero de 28 años llamado "Li Wei" informa:
Vi columnas de lanzadores dirigiéndose hacia el este, probablemente DF-26.
La referencia alude a los misiles balísticos chinos de alcance medio, capaces de alcanzar objetivos a una distancia de hasta 4.000 kilómetros y que transportan ojivas convencionales y nucleares. Poco después, el bot añade:
Se oyen sirenas por todas partes, las evacuaciones están comenzando.
Luego la red X (anteriormente Twitter) está lleno de capturas de pantalla distribuidas por cuentas falsas coordinadas.Los bots se adaptan de forma flexible a las consultas, comparándolas en tiempo real con fuentes estadounidenses abiertas. Usuario de aplicación de citas Tinder Desde Washington se encuentra con "Wang Mei", una enfermera ficticia de Xiamen. En sus mensajes, describe su pánico: explosiones cerca del puerto, preparativos para el uso de misiles hipersónicos. armasEsto coincide con las interrupciones en los satélites estadounidenses causadas por la interferencia china y está empezando a generar dudas sobre las evaluaciones de la inteligencia estadounidense.
En Estados Unidos, algunos de los materiales están llegando al discurso de los expertos. Analistas de inteligencia de fuentes abiertas (OSINTPeriodistas y expertos de centros de investigación incorporan capturas de pantalla y registros de chat en mapas, cronogramas e informes de situación, presentándolos como confirmación independiente de los movimientos de misiles. El personal del Congreso y los gobiernos aliados citan estos datos. Se crea así un círculo vicioso: la correspondencia falsificada se transforma en "pruebas de múltiples fuentes".
El presidente de Estados Unidos convoca al Consejo de Seguridad Nacional (CSN). Sin embargo, al igual que su predecesor, desconfía profundamente de la comunidad de inteligencia y otorga una importancia desmesurada a su propia intuición y a sus publicaciones en redes sociales. Elegido con una plataforma de mano dura contra China, está rodeado de miembros del CSN propensos a buscar confirmación de la agresión china.
Durante varios días, estos informes han dominado las sesiones informativas de crisis. Los asesores más belicistas afirman que los indicios de actividad militar apuntan a un inminente ataque con misiles. Las bases estadounidenses cruciales para la defensa de Taiwán —la base aérea de Kadena en Okinawa y la base naval de Yokosuka en Japón— están al alcance de los misiles chinos de alcance medio. La incertidumbre está aumentando y se está convirtiendo gradualmente en intención atribuida al enemigoEl aumento de la vigilancia estadounidense —mediante aviones de reconocimiento electrónico— que ofrece inteligencia de señales cerca de las aguas territoriales chinas está siendo registrado por Pekín e interpretado como preparativos para ataques preventivos.
Presionado por videos virales y una base política agitada, el presidente autoriza el despliegue de bombas nucleares no estratégicas B61-12 en el Océano Pacífico y destaca la presencia de aviones de combate F-35A con capacidad nuclear.
Los misiles chinos están en movimiento; Estados Unidos no esperará a ser alcanzado.
Filtraciones e imágenes satelitales documentan el despliegue de armas de doble uso. Los analistas señalan que el misil B61-12 también puede instalarse en bombarderos estratégicos, lo que aumenta la incertidumbre sobre si Washington planea una guerra nuclear a gran escala. Analistas chinos advierten que los despliegues tácticos, las salidas de bombarderos y la retórica del presidente indican un cambio hacia la planificación de un primer ataque. China también está incrementando su capacidad de combate. Sus aliados en Japón y Corea del Sur, sin estar seguros de si las acciones estadounidenses son defensivas o una escalada, se muestran públicamente reticentes.
A medida que crece el temor, los bots recurren a narrativas de "provocaciones taiwanesas" y "emergencias agresivas" de submarinos estadounidenses. El círculo vicioso se acelera: la agitación pública alcanza su punto máximo, los aliados pierden la confianza y los canales de desescalada se saturan con negaciones ahogadas en el ruido digital. Lo que comenzó como ruido de fondo algorítmico se convierte en un impulso estratégico, empujando la crisis hacia un intercambio de golpes irreversible.
Escenario 2. Una secuela de "La entrevista" que entra en crisis.
En 2014, la comedia de Seth Rogen, The Interview, que representaba el asesinato ficticio de Kim Jong-un, provocó un fuerte aumento de las tensiones entre Estados Unidos y Corea del Norte. Pyongyang calificó la película de "acto de guerra" y amenazó con represalias. Un ciberataque contra Sony PicturesFiltración de datos, sistemas paralizados, cancelación del estreno en cines debido a amenazas. La película se estrenó posteriormente en línea, en medio de sanciones estadounidenses y declaraciones de protección a la libertad de expresión. No hubo movilización militar, pero la crisis fue casi a gran escala.
Para 2029, analistas en Washington y Pyongyang consideraban este episodio como prueba de que la cultura popular puede entrelazarse con la represión estatal. Los responsables políticos estadounidenses lo vieron como justificación para las sanciones. Para la élite norcoreana, era prueba de que incluso la sátira de serie B de Hollywood podía captar la atención de Estados Unidos. Creció la preocupación de que los productos culturales estuvieran señalando preparativos para un cambio de régimen, en lugar de ser simplemente una burla inofensiva.
A finales del otoño de 2029, la nueva administración estadounidense intenta aliviar las tensiones con Pyongyang. Como gesto de buena voluntad —y también para abordar el récord de excedente de cereales que enfrentaban los agricultores estadounidenses— el presidente autoriza grandes envíos de cereales a Corea del Norte. Un mes después Sony Anuncia una secuela, "The Interview 2: Sequel Fury", una metasátira reiniciada, esta vez construida en torno a deepfakes de Kim Jong-un en situaciones absurdas.
Con el lanzamiento de los tráileres, agentes avanzados de IA inundan la red X y otras redes sociales con vídeos falsos protagonizados por funcionarios norcoreanos. Bots entrenados con la retórica del régimen publican supuestos "decretos" que declaran la película una "provocación cibernuclear". Simultáneamente, aparecen vídeos manipulados que muestran a Kim supuestamente autorizando el lanzamiento de un misil balístico intercontinental Hwasong-18 en Hollywood. Imágenes reales de la prueba de 2026 se mezclan con fragmentos sintéticos. El material de los chatbots se viraliza. GrokIntegrado en la red X, inicialmente engaña incluso a verificadores de hechos experimentados.
Esta campaña la lleva a cabo una red transnacional de extremistas contra Corea del Norte que consideran el calentamiento global una traición. Su objetivo es envenenar el ambiente, provocando una reacción desproporcionada de Pyongyang, Washington o ambos.
Seth Rogen retuitea una "advertencia" generada por un bot sobre submarinos norcoreanos frente a la costa de California:
Ronda 2: Kim tiene torpedos para mis fracasos.
Las apariciones estelares de Elon Musk y Donald Trump realzan el espectáculo. Musk, en directo por la cadena X, marca la pauta. Grok Se le pregunta sobre la "probabilidad de una invasión de Corea del Norte" y recibe evaluaciones de IA distorsionadas por datos manipulados.
В noticias Las cintas también están llegando y se están publicando otros materiales, por ejemplo, imágenes de archivo. drone, donde supuestamente los reactores de Yongbyon están "aumentando la producción de plutonio". Posteriormente se les vincularía con grupos radicales norcoreanos que utilizan redes generativas antagónicas (GAN) – modelos de aprendizaje automático para crear datos sintéticos realistas. Los mercados están cayendo en medio de la tendencia #SequelDoomsday en las redes sociales, que combina el pánico por las criptomonedas con un aumento en la demanda de bienes esenciales.
Al cuarto día después del anuncio Sony El presidente está convocando al Consejo de Seguridad Nacional. Las redes sociales están sumidas en un frenesí alimentado por personalidades de los medios y celebridades; es este frenesí el que moldea el contexto de las decisiones políticas. Las publicaciones de Rogen y otras celebridades que citan fragmentos falsificados de la Agencia Central de Noticias de Corea (KCNA) no influyen directamente en el Consejo de Seguridad Nacional, pero otorgan a las falsificaciones una apariencia de credibilidad. El diálogo público de Musk con su sistema de IA está generando expectativas que apuntan a un escenario de crisis, presionando a los líderes para que actúen, incluso mientras los analistas discuten las incertidumbres subyacentes.
En Washington, los analistas discrepan sobre el verdadero nivel de preparación de Corea del Norte, interpretando las imágenes satelitales y las interceptaciones de señales a través del prisma distorsionador de las imágenes manipuladas de Yongbyon. Los líderes del Consejo de Seguridad Nacional temen que la inacción sea percibida como debilidad tanto por aliados como por adversarios. Como señal, respaldan el despliegue de dos portaaviones estadounidenses en el Mar Amarillo para una "patrulla disuasoria".
En Pyongyang, la dirigencia, tras haber observado durante años las declaraciones "demoledoras" de los funcionarios estadounidenses y recordando las lecciones de Irak y Libia, está sucumbiendo a la influencia de varios factores a la vez: un vídeo fabricado del presidente de Estados Unidos aprobando los sobrevuelos de bombarderos estratégicos B-2; movimientos reales de fuerzas navales; y una interpretación hostil —y por lo tanto comprensible para la parte norcoreana— de la trama de "Sequel Fury".
Convencidos de que Washington está ensayando un cambio de régimen bajo la apariencia de comedia, los norcoreanos difunden imágenes de Kim inspeccionando varias ojivas nucleares en un misil intercontinental y realizan un lanzamiento no programado de un satélite a la órbita terrestre baja. Desde fuera, parece indistinguible del preludio de un ataque nuclear. armas nucleares de pulso electromagnéticoEste tipo de munición detona en la atmósfera superior e inutiliza los sistemas electrónicos en una vasta área.
En ambos bandos, las negaciones de intenciones agresivas se ven ahogadas por las sospechas amplificadas por la IA. La desinformación impulsada por la IA no crea una crisis, pero corre el riesgo de empujarla hacia la guerra, añadiendo una peligrosa capa de escalada a un intercambio de señales ya de por sí frágil.
Escenario 3. "Arquero inteligente" con inteligencia artificial (2033)
En 1981, la URSS, temiendo un primer ataque nuclear a gran escala por parte de la administración Reagan, lanzó la Operación RYAN (Ataque con Misiles Nucleares) – un programa de alerta temprana ante un posible ataque nuclear occidental. El Ministerio de Defensa de la URSS supervisaba los cambios en indicadores considerados estratégicos por el Estado Mayor: suministros de sangre, movimientos de población, logística y abastecimiento de alimentos, y la organización de la atención médica en caso de un ataque nuclear.
La base conceptual era el concepto soviético de "correlación de fuerzas": una medida holística del poder relativo que abarcaba factores políticos, económicos e ideológicos, no solo el potencial militar. Al comparar los cambios en estos indicadores, RYaN pretendía identificar momentos de mayor peligro de un ataque nuclear masivo.
Es este marco el que ha transformado los ejercicios de mando y estado mayor de la OTAN. Able Archer 83 Esto desembocó en una grave crisis. Se llevaron a cabo maniobras realistas, incluyendo procedimientos de escalada nuclear y la participación de altos mandos, en un contexto de tensas relaciones entre la URSS y Estados Unidos. Según la información disponible, las fuerzas soviéticas aumentaron su preparación para el combate y posiblemente cargaron armas nucleares en aeronaves, mientras que la OTAN desconocía el alcance de la amenaza que Moscú percibía en sus acciones. Esta evaluación integral y multidominio sigue vigente en la estrategia militar rusa actual.
Por año 2033 En el escenario de Lin, Rusia despliega RYAN-II, un sistema de alerta temprana controlado por IA para un primer ataque nuclear. Este sistema automatiza la lógica del programa original y se centra en la competencia sistémica: el control de la información, la estabilidad del régimen, la resistencia a las sanciones y la soberanía tecnológica se consideran ejes clave de ventaja y vulnerabilidad. El enfoque es inherentemente conservador: parte de la premisa de que las fuentes gubernamentales oficiales y los medios de comunicación occidentales generan sistemáticamente desinformación dirigida hacia el Este y favorece las interpretaciones del peor escenario posible.
RYAN-II se basa en grandes modelos lingüísticos y análisis predictivos, procesando decenas de miles de flujos de datos. Estos incluyen el comportamiento de la élite política (movimientos de líderes, análisis del habla), la postura militar (comparación de ejercicios con datos de referencia), la movilización civil y económica (adquisiciones y flujos financieros) y la actividad cibernética (intentos de sondear los sistemas de control de armas nucleares). Los datos públicos y privados —desde imágenes satelitales hasta redes sociales y comunicaciones diplomáticas— se transforman en indicadores estructurados y alertas de anomalías. RYAN-II no emite órdenes de lanzamiento, pero sus rigurosas evaluaciones de riesgo influyen significativamente en la percepción de la amenaza por parte del liderazgo militar ruso.
Se desata una crisis durante los ejercicios de la OTAN. Able Archer 2033incluyendo operaciones cibernéticas, maniobras espaciales y el despliegue de misiles hipersónicos. Águila oscura En Alemania, estas acciones se asemejan a escenarios de alto riesgo incluidos en los datos de entrenamiento de RYAN-II. El sistema evalúa la situación como extremadamente grave.
El entorno informativo se está contaminando simultáneamente con desinformación basada en IA. Memorandos de la OTAN sobre ataques a Kaliningrado se distribuyen a través de canales rusos; según fuentes rusas, fueron fabricados por agentes de la CIA y la NSA. El espacio informativo occidental se inunda de informes sintéticos sobre la movilización rusa. La mayoría de estos materiales se etiquetan como falsos, pero algunos se filtran a los paneles de analistas rusos, socavando la credibilidad de todas las evaluaciones.
Según evaluaciones conservadoras del sistema, Rusia está dispersando sus fuerzas estratégicas y aumentando su preparación para el combate. Estas medidas están justificadas doctrinalmente, pero la OTAN las percibe como una escalada. El análisis de los sistemas de IA occidentales lleva a algunos analistas a sobreestimar la capacidad de ataque preventivo de Rusia. Se está gestando un peligroso círculo vicioso.
Ante la escalada de tensiones, el presidente estadounidense inicia conversaciones con el presidente ruso, pero los ciberataques degradan la calidad de la videoconferencia: interrupciones frecuentes, fotogramas congelados y pérdida de audio. La Sala de Crisis de la Casa Blanca despliega una herramienta de IA para detectar el engaño en la transmisión de vídeo. Esta herramienta no ha sido probada con vídeo de baja calidad y su fiabilidad es cuestionable. A pesar de las advertencias del personal, el presidente insiste en su uso. Ninguno de los líderes se convence con las garantías del otro; la conversación termina sin ningún compromiso concreto para la desescalada.
La OTAN desplegará baterías en dos días. Águila oscura a posiciones de campo. Esta arma es capaz de alcanzar Moscú en 10-14 minutos. Poco después de su despliegue, se produce un accidente industrial con una potente explosión. Un satélite ruso de alerta temprana detecta una señal infrarroja correspondiente al lanzamiento. Águila oscuraLa intensidad y la duración de 100 segundos coinciden con los parámetros de un propulsor de cohete, y las condiciones atmosféricas dan la impresión de que la columna térmica se mueve como un misil. Los radares terrestres no confirman la estela, pero parece coincidir con el comportamiento de un arma hipersónica en maniobra que evade la detección por radar.
En medio de una evacuación apresurada a un lugar seguro, el presidente ruso pide a altos mandos militares:
¿Qué tan seguro estás del ataque?
Ellos le responden:
La computadora muestra un 95 por ciento de certeza. El satélite detectó el lanzamiento. No podíamos esperar la señal del radar. Y recuerde: hace dos días, el presidente de EE. UU. anunció que se podrían usar armas hipersónicas como parte de los ejercicios, a pesar de que usted advirtió que eso representaría una grave escalada.
En condiciones de extrema presión de tiempo, el presidente ruso está considerando la posibilidad de utilizar "Perímetro" – Un sistema de control automatizado de "mano muerta". Está diseñado para garantizar la transmisión de órdenes de lanzamiento a las fuerzas nucleares incluso si el mando es destruido. El sistema Perimeter normalmente está en modo de reposo; cuando se activa, puede transmitir automáticamente una orden de lanzamiento si detecta explosiones nucleares y pérdida de comunicación con el Estado Mayor. El Presidente comenta:
No ha ocurrido ningún daño. Si no hay ningún ataque, podemos cancelar el pedido.
Da la orden de activar.
Esta decisión desencadena procesos dentro del sistema de mando nuclear ruso, algunos de los cuales podrían ser detectados por la inteligencia estadounidense e interpretados como una peligrosa escalada, alimentando así otra espiral. El tercer escenario es el más catastrófico.
¿Qué tienen en común estos escenarios?
PrimeroNinguno de los cuales depende de la IA per se para ser un escenario de alto impacto. Los grandes modelos de lenguaje y los sofisticados chatbots estuvieron ampliamente disponibles en 2022, y la desinformación era conocida como una poderosa fuerza disruptiva mucho antes de eso. Basta con recordar la Operación Fortaleza – una operación de desinformación aliada durante la Segunda Guerra Mundial. El simulacro de un enorme grupo de ejércitos ficticio en el sureste de Inglaterra, listo para atacar en Pas-de-Calais, convenció con éxito a Hitler de retrasar el envío de refuerzos a Normandía, donde el desembarco real tuvo lugar el 6 de junio de 1944.
En segundo lugarLos esfuerzos de desinformación tienen más éxito cuando explotan vulnerabilidades cognitivas Público objetivo. En situaciones de crisis de alta presión, incluso los líderes más reservados tienden a actuar con rapidez y a tomar medidas drásticas y visibles basándose en información incompleta o ambigua. En los escenarios descritos, elevar el nivel de alarma, redesplegar tropas y distribuir armas nucleares a las unidades se convierten en reacciones reflejas ante amenazas percibidas, en lugar de ser el resultado de una decisión deliberada. Esta tendencia reduce el tiempo de toma de decisiones y dificulta el cambio de rumbo una vez que la situación se ha agravado.
Mientras tanto, las medidas de precaución de una de las partes —movimientos de misiles, cambios en el nivel de alerta, despliegue de portaaviones— son percibidas por la otra como preparativos para una ofensiva. Distinguir una postura defensiva de los preparativos reales para un ataque con misiles se vuelve extremadamente difícil, y la tensión controlada se intensifica hasta convertirse en un arriesgado enfrentamiento nuclear.
Otra distorsión cognitiva es efecto de visibilidadTendencia a centrarse en el atributo más destacado de una opción, incluso cuando otros factores son igualmente importantes. En los escenarios considerados, los analistas estadounidenses priorizan los informes de "convoyes de misiles" generados por bots sobre los datos de radar ambiguos. El Consejo de Seguridad Nacional (NSC) pone en duda las amenazas reales de Corea del Norte, priorizando las señales positivas. Rusia se basa excesivamente en las evaluaciones de RYAN-II, prestando insuficiente atención a los datos de radar. Los líderes dan demasiada importancia a los indicadores de amenaza más obvios y emotivos, ignorando los datos contradictorios o menos convincentes.
Tercer factor La IA está agravando drásticamente una situación ya de por sí compleja. Las técnicas avanzadas de manipulación de la realidad (LLM) y los deepfakes crean contenido con una apariencia y un sonido sumamente realistas, lo que lo hace más persuasivo y difícil de refutar. En ciertos escenarios, es precisamente esta capacidad de persuasión la que lleva a analistas y responsables de la toma de decisiones a dar demasiada importancia a los vídeos, registros de chat y evaluaciones de riesgos generados por IA, considerándolos pruebas fiables en lugar de posibles objetivos de manipulación.
Peor aún, la desinformación generada por IA es adaptable, escalable y está diseñada para explotar las vulnerabilidades de los sistemas de mando y alerta nuclear. El contenido sintético moldea las evaluaciones preliminares, los informes de crisis y los discursos políticos, ejerciendo a menudo mayor influencia que la inteligencia tradicional. La manipulación de la información se está convirtiendo en un factor directo del riesgo nuclear.
En general, las falsificaciones profundas, la "inteligencia" sintética, los testimonios de testigos presenciales inventados y los datos satelitales manipulados no solo inducen a error, sino que sobrecargan sistemáticamente las capacidades analíticas y reducen los plazos de toma de decisiones. El entorno informativo se ve cada vez más saturado de pistas plausibles pero falsas que los analistas deben considerar potencialmente significativas.
En tales condiciones, se intensifica sesgo de automatizaciónQuienes toman las decisiones buscan claridad en medio de una avalancha de señales verdaderas y falsas, y se ven obligados a tomar decisiones importantes bajo una mayor presión de tiempo, basándose en evaluaciones más incompletas que en las crisis típicas.
Cuartocrecimiento regímenes personalistas Esto distorsiona aún más el entorno informativo al subordinar la pericia institucional a las características personales del líder: su intuición y reacciones emocionales. Las agencias de inteligencia dejan de funcionar como estructuras analíticas independientes y comienzan a reflejar las opiniones del líder nacional. Los procesos diseñados para filtrar el ruido y corregir sesgos se reorientan hacia la legitimación de las preferencias predeterminadas del líder.
En los sistemas analíticos rigurosos, las señales ambiguas y el contenido sintético se considerarían ruido que debe filtrarse. Sin embargo, cuando la inteligencia se politiza y las agencias manipulan los juicios para adaptarlos a las expectativas del líder, estos filtros se neutralizan, y es más probable que esas mismas ambigüedades se interpreten como señales genuinas de intenciones hostiles.
En parte debido a la desconfianza hacia la inteligencia profesional, los líderes políticos se basan más en su propio criterio y en información sin filtrar: redes sociales, debates abiertos, contenido generado por IA. La atención se centra en lo más dramático o personalmente significativo: una señal única, efectiva pero potencialmente engañosa, puede resultar decisiva. Los subordinados tienen pocos incentivos para cuestionar los prejuicios de un líder, lo que hace aún menos probable que tomen decisiones racionales.
A los cuatro factores mencionados anteriormente, conviene añadir una observación metodológica más general. El problema de la desinformación generada por IA no se resuelve con sistemas de IA que determinen si la información es generada por IA, falsa o ambas cosas. La cuestión fundamental es cómo realizar dicha determinación en un entorno donde la verdad misma es inestable e incierta. Al disponer únicamente del elemento informativo en sí y al tratar con sistemas capaces de producir resultados cada vez más difíciles de distinguir de los humanos, el analista se ve obligado a basarse en una evaluación de la plausibilidad de su origen. La disponibilidad de canales particularmente resistentes a la manipulación ofrece una solución, pero dichas fuentes siempre son parciales, no universales. La búsqueda tradicional de la "verdad" se ve sustituida por un estado persistente de incertidumbre: los analistas operan en una zona gris dominada por la incertidumbre probabilística respecto al origen y la fiabilidad de las supuestas pruebas.
Conclusión
Tomar decisiones racionales ante la desinformación ya es bastante difícil. Los sesgos cognitivos que distorsionan el procesamiento de la información hacen que la tarea sea aún más compleja. Las peculiaridades de los actuales líderes políticos occidentales añaden otra capa de complicaciones. Y la incorporación de la IA amplifica enormemente la distorsión del entorno informativo.
Los escenarios presentados indican que la disfunción de la información inducida por la IA tiene un enorme potencial para contaminar los ecosistemas en los que se toman decisiones sobre la guerra, y a veces incluso sobre la guerra nuclear. Al mismo tiempo, demuestran que la IA actúa principalmente como multiplicador de amenazas: la principal amenaza es el entorno de información disfuncional en el que el mundo vivió mucho antes de la llegada de ChatGPT en el año 2022.
De esto se derivan dos conclusiones prácticas. primeroEl entorno informativo siempre estará contaminado y, en mayor o menor medida, será incierto; esto debe aceptarse como un hecho. SegundoLos líderes siguen siendo humanos y, por lo tanto, tienen puntos ciegos cognitivos que requieren procedimientos institucionales para su gestión. Y estas reglas deben cumplirse, incluso, y sobre todo, cuando surja presión para eludirlas.
información