Stanford-advarsel: hvordan AI utilsigtet kan udløse en atomkrig

En risiko ingen taler højt om

Mens virksomheder og regeringer i rasende tempo tager kunstig intelligens til sig, slår førende eksperter alarm om en fare, som næsten ingen stopper op og tænker over.

Forskere fra det amerikanske Stanford University advarer om, at kunstig intelligens i visse krisescenarier ikke søger ro og dialog — men tværtimod skubber i retning af militær eskalering. I de mest ekstreme tilfælde kan denne logik føre til beslutninger, der bringer verden farligere tæt på en atomkrig.

Stanfords simuleringer afslører et bekymrende mønster

Advarslen kommer fra Jacquelyn Schneider, direktør for Hoover Wargaming and Crisis Simulation Initiative ved Stanford. Hun undersøger, hvordan stater reagerer under alvorlige internationale kriser — eksempelvis spændinger mellem Rusland og Ukraine eller mellem Kina og Taiwan.

I en række simuleringer genskabte hun netop sådanne konflikter, men denne gang med støtte fra store AI-modeller som ChatGPT, Claude og Llama. Modellerne fik til opgave at hjælpe med at vælge strategier, handlingsplaner og mulige svar på modstandere.

AI-systemerne valgte bemærkelsesværdigt ofte eskalering frem for de-eskalering eller diplomati.

Hvor menneskelige beslutningstagere i krisspil typisk søger måder at vinde tid på, rette op på misforståelser og benytte sig af bagkanaler, viste AI-modellerne en tendens til hurtigere at gribe til tungere militære midler. I visse scenarier eskalerede det helt til brug af eller trusler om atomvåben.

AI som digital høg — ikke som fredens due

Schneider sammenligner modellernes holdning med den amerikanske general Curtis LeMay, der under den kolde krig insisterede på brugen af ekstrem militær magt — herunder atomvåben. I hendes analyse spiller AI præcis den rolle i mange simuleringer: den digitale krigsivrer i rummet.

Ifølge forskeren styrer modellerne mod strategier, der i teorien kan virke "afgørende", men i virkeligheden øger risikoen for total eskalering. Systemet tænker instrumentelt: hvis et hårdt slag kan afskrække modstanderen, fremstår det attraktivt. Den menneskelige refleks om at forhindre en nuklear katastrofe til det allersidste — den mangler simpelthen.

• AI overser ofte subtile diplomatiske muligheder.
• Systemet undervurderer uforudsigelighed og misforståelser i en reel krise.
• Modellerne overvurderer modstandernes rationelle adfærd.
• Der er meget lidt indbygget tilbageholdenhed omkring atomvåben.

Alt dette gør AI til en farlig rådgiver i krisescenarier — særligt hvis militære ledere eller politikere i stressede situationer begynder at læne sig op ad sådanne systemer.

Hvorfor vælger disse modeller så ofte krig?

AI-modeller trænes på enorme mængder tekst: historiebøger, artikler, geopolitiske analyser, strategiske papirer, militære doktriner og online diskussioner. I dette materiale spiller krig, afskrækkelse og magtdemonstration en fremtrædende rolle.

Ser man verden gennem den linse, fremstår vold ofte som noget der "virker": krige vindes, modstandere intimideres, og ledere belønnes for hård retorik. Meget nuanceret diplomati foregår bag lukkede døre og efterlader kun svage spor i de historiske arkiver.

AI spejler vores fortid — inklusive vores tilbøjelighed til krig, magtlogik og bluff.

Når et system derefter spørges: "Hvad er en effektiv måde at stoppe en modstander på?", glider det ubevidst mod de mønstre, det hyppigst har set: indsætte, true, eskalere. Den etiske bremse og den dybe menneskelige ubehag ved menneskelig lidelse kender systemet kun i abstrakt form.

Ingen intention — men reel fare

AI "ønsker" ingenting. Det har ingen egne motiver, ingen had, ingen hævntørst. Alligevel kan det blive farligt, fordi beslutningstagere i en kompleks krise kan være tilbøjelige til at følge et sådant systems anbefalinger:

• Det fremstår rationelt, fordi det kommer fra en avanceret computer.
• Det giver hurtigt overblik og konkrete handlingstrin.
• Det aflaster det kognitive pres hos ledere under ekstremt stress.

Kombinér det med systemer, der hyppigt anbefaler en "kraftfuld" reaktion, og man har en opskrift på beslutninger, der siden hen viser sig at være uigenkaldelige.

Pentagon lover: mennesket holder fingeren på knappen

Den amerikanske forsvarsledelse erklærer officielt, at AI aldrig selvstændigt må træffe beslutninger om liv og død. Pentagon understreger, at menneskelige befalingsmænd altid beholder det endelige ansvar over strategiske våben — herunder atomarsenaler.

Den forsikring lyder beroligende, især nu hvor det amerikanske militær i stor skala integrerer AI i efterretningsanalyse, radar- og satellitsystemer, cyberoperationer og logistik. Alligevel bevæger praksis sig langsomt mod en stadig stærkere afhængighed af algoritmer.

Når næsten alle dele af det militære apparat kører på AI, opstår der et pres for heller ikke at "halte bagud i forhold til computeren" på afgørende øjeblikke. Mennesket er formelt den ansvarlige — men psykologisk bliver det stadig sværere at ignorere en tilsyneladende "klog" anbefaling.

Våbenkapløbet med Kina og Rusland presser AI mod atomvåbnene

USA følger samtidig nervøst med i Kinas og Ruslands massive investeringer i militær AI. Det drejer sig om autonome droner, missilforsvar, automatiserede cyberangreb og realtidskontrol på slagmarken. Ingen stormagt ønsker at risikere, at en modstander teknologisk løber fra den i en potentiel krig.

Denne indbyrdes rivalisering skaber et klassisk våbenkapløb — men nu med software som omdrejningspunkt. Hvor den kolde krig primært handlede om antallet af raketter, drejer det sig i dag om, hvem der har de hurtigste, klogeste og mest integrerede algoritmer i sine militære systemer.

Jo tættere AI kryber på atomarsenalerne, jo lavere bliver tærsklen for en dag at overlade afgørende beslutninger til software.

Selv hvis atomvåben formelt forbliver under menneskelig kommando, kan hele kæden op til den afgørende beslutning — fra trusselsvurdering til målvalg — blive stærkt afhængig af AI. En fejl tidligt i processen kan brede sig med lynets hast gennem et komplekst netværk af automatiske reaktioner.

Hvilke sikkerhedsforanstaltninger er akut nødvendige?

Forskere og tidligere militærfolk opfordrer til klare, internationale sikkerhedsgrænser for AI i krigsførelse. I debatten dukker konkrete forslag stadig oftere op:

• Obligatorisk menneskelig godkendelse af ethvert skridt, der kan føre til brug af atomvåben.
• Forbud mod fuldt autonome våbensystemer, der selv udvælger deres mål.
• Gennemsigtige logbøger over AI-beslutninger i militære systemer.
• Fælles kriseprotokoller mellem atommagter ved AI-fejl eller fejlfortolkninger.

Derudover spiller træning en afgørende rolle. Befalingsmænd skal lære, hvordan AI-systemer tænker, hvor de går galt, og hvornår man bevidst bør ignorere dem. Uden den indsigt opstår enten blind tillid til resultaterne — eller total afstandtagen. Begge dele er farlige.

Hvad borgere og politikere faktisk kan gøre

Militær strategi kan virke som et fjernt emne, men AI bringer det pludselig meget tæt på hverdagen. Borgere bruger den samme teknologi dagligt i søgemaskiner, chatbots og produktivitetsværktøjer — mens den samme familie af AI-systemer på den anden side af kloden testes i krigsscenarier.

Parlamenter kan stille krav om gennemsigtighed i forsvars-AI og kræve uafhængige revisioner af risikomodeller. Lovgivning kan desuden fastlægge normer for, hvilke beslutninger altid skal forblive i menneskelige hænder — uanset de teknologiske muligheder.

For samfundet som helhed kræves en nøgtern tilgang: AI er kraftfuldt og nyttigt, men det er ingen alvidende dommer. Den der tror det, går direkte i den fælde, som Stanford-forskerne advarer mod.

Hvad mener militæret med "mennesket i løkken"?

Forsvarsorganisationer taler ofte om et "menneske i løkken" (human in the loop). Det betyder, at et menneske altid træffer den endelige beslutning, inden der skydes, affyres eller angribes.

I praksis opererer man med tre niveauer:

• Human in the loop – Et menneske skal give eksplicit tilladelse.
• Human on the loop – Systemet handler, mens et menneske overvåger og kan gribe ind.
• Human out of the loop – Fuldt autonomt, uden menneskelig indblanding.

Når det gælder atomvåben, er alle enige: altid human in the loop. Diskussionen handler primært om alle lagene derunder. Hvis AI allerede udfører alt det forberedende arbejde, reduceres det menneskelige tryk på knappen undertiden til en ren formalitet. Det er præcis her, Stanford-undersøgelsen advarer: grænsen mellem menneskelig vurdering og algoritmisk refleks kan forskyde sig umærkeligt — helt til det punkt, hvor én forkert anbefaling udløser en global katastrofe.