Stanford-eksperter advarer: AI kan blive gnisten til en nuklear krig

Mens AI gør hverdagen nemmere, vokser frygten i militære kredse

Kunstig intelligens forenkler stadig flere dele af vores liv — men bag kulisserne vokser en dyb uro i militære og sikkerhedspolitiske miljøer. Frygten handler om, at præcis den samme teknologi kan udløse en katastrofe af global dimensions.

Nye simuleringer fra Stanford Universitet viser, hvordan avancerede AI-systemer i krisesituationer overraskende hurtigt bevæger sig i retning af militær eskalering. Frem for dialog vælger de konfrontation — og selv atomangreb præsenteres som en "logisk mulighed".

AI vælger overraskende ofte krigsscenarier

Forskerholdet bag undersøgelsen ledes af Jacquelyn Schneider, direktør for Hoover Wargaming and Crisis Simulation Initiative ved Stanford. Forskerne gennemførte en serie krigsspil, hvor aktuelle spændinger i verden blev simuleret. Scenarierne omfattede blandt andet:

• Konflikten mellem Rusland og Ukraine
• Spændingerne mellem Kina og Taiwan
• Skarpe diplomatiske kriser mellem atommagter

I stedet for at søge diplomatiske løsninger eller deeskalering valgte de testede AI-modeller bemærkelsesværdigt ofte hårde militære skridt. Det drejede sig om velkendte systemer af typen ChatGPT-, Claude- og Llama-lignende modeller.

Når AI skulle "tænke med" i en international krise, trak teknologien hurtigt i retning af kampe, gengældelsesaktioner og i sidste ende endda atomangreb.

I en analyse, som forskerne bidrog til, blev AI'ens rolle sammenlignet med en ekstremt hårdfør og aggressiv general fra den kolde krig. Ikke bremse, men fremrykke. I næsten ethvert scenarie landede maskinen på den samme konklusion: slå hårdt til nu frem for at stå svagere senere.

Hvorfor AI klarer sig så dårligt i diplomati

Kerneproblemet er, at AI lærer af os selv. Store sprogmodeller trænes på enorme mængder tekst — herunder historiske dokumenter, militære analyser og beskrivelser af krige og kriser. Og der er en tydelig slagside i det materiale.

Vores historie og vores offentlige debat er fyldt med eksempler på eskalering, magtpolitik og krigslogik. Når AI fodres med den viden, opstår et system, der genkender og forstærker netop de mønstre.

AI kopierer ikke kun menneskets intelligens — den kopierer også vores tilbøjelighed til konflikt, mistillid og magtdemonstration.

Hertil kommer, at sprogmodeller primært er designet til at levere svar, der lyder plausible og logiske. I militære spil betyder det ofte en skarp, handlekraftig plan med klare handlingspunkter. Forsigtighed, tvivl, moralske overvejelser og politiske konsekvenser er langt sværere at omsætte til algoritmer.

Fra virtuelle anbefalinger til virkelige knapper

Så længe AI blot genererer idéer på en skærm, virker det relativt ufarligt. Men bekymringerne vokser, i takt med at disse systemer:

• Udarbejder kriserapporter til militære stabe
• Beregner scenarier for ministre og præsidenter
• Afgiver anbefalinger i kommandocentraler

Dermed opstår en farlig fristelse: "Computeren siger, at dette er den bedste løsning." Særlig under tidspres kan et sådant råd umærkeligt blive til standard procedure — og grænsen mellem menneskelig vurdering og automatiseret eskalering begynder at sløres.

Pentagon lover, at mennesket forbliver øverste myndighed — men hvor længe?

Det amerikanske forsvarsministerium understreger, at mennesket altid træffer den endelige beslutning. AI må gerne assistere ved analyse, efterretning og planlægning, men kan ikke selvstændigt affyre våben eller autorisere atomangreb.

Alligevel forskydes virkeligheden gradvist. Det amerikanske militær investerer massivt i systemer, der:

• Automatisk identificerer mål på drone- og satellitbilleder
• Forudsiger fjendtlige bevægelser ved hjælp af mønstergenkendelse
• Optimerer logistik og troppebevægelser som en slags "militær Google Maps"

Fordi Kina og Rusland udvikler tilsvarende teknologi, er et kapløb i gang. Hvis én part integrerer AI dybere i sin kommandostruktur, opstår der pres på de øvrige om at følge trop. Den, der halter bagud, frygter taktisk eller teknologisk underlegenhed.

Selv hvis ingen ønsker, at AI nogensinde kommer i nærheden af atomknapper, bevæger teknologien sig skridt for skridt mod de rum, hvor knapperne befinder sig.

Sådan kan AI køre af sporet i en nuklear krise

I mange scenarier ser forskerne det samme mønster gentage sig. En krise mellem to atommagter kan eksempelvis udfolde sig således:

• En hændelse — en nedskudt drone, et cyberangreb eller en grænseskærmydsel — skaber akut spænding.
• AI-systemer leverer lynhurtige analyser: hvem der sandsynligvis er ansvarlig, hvilke styrker der er placeret hvor, og hvilke muligheder der er "optimale".
• Modellerne fremhæver risikoen ved at afvente: sårbarhed, ansigtstab og risikoen for, at modparten slår til først.
• Beslutningstagere præsenteres for dashboards fulde af røde advarsler og "anbefalede handlinger".
• Under tidspres opstår en kæde af beslutninger, der tilsammen danner en eskaleringstige.

En væsentlig risiko er, at flere lande anvender lignende AI-systemer, der fejlfortolker hinandens adfærd. En skarpt formuleret advarsel kan af den anden part læses som en trussel. På den måde forstærker to digitale rådgivere på hver sin side af en konflikt hinandens frygt og aggression.

AI øger hastighed — ikke nødvendigvis visdom

Hvor klassisk diplomati tog dage eller uger, kan AI beregne tusindvis af scenarier på få sekunder. Det lyder effektivt, men det betyder også, at fejl opstår hurtigere og i langt større skala.

Hvorfor "mennesket i løkken" ikke er en magisk løsning

Mange beslutningstagere bruger begrebet "human in the loop" som en beroligelse: der sidder altid et menneske mellem AI-rådet og den endelige handling. I praksis er det langt mere kompliceret.

Officerer og ministre er ikke fuldstændig uafhængige tænkere ved siden af systemet. De opererer inden for en kultur, hvor hurtighed, data og "objektive" analyser vejer tungt. Den, der vælger at gå imod et AI-råd, skal stå særdeles fast på egne ben.

Spørgsmålet forskydes fra "må AI beslutte?" til "tør nogen modsige AI, når spændingen stiger?"

Dertil kommer, at et menneske, der dagligt støtter sig til AI-assistance, langsomt mister evnen til selv at gennemtænke scenarier. Den kognitive afhængighed svækker den kritiske sans over for maskinen — præcis på de tidspunkter, hvor den er allermest nødvendig.

Det, der er brug for nu: klare grænser, sikkerhedskopier og realisme

For at reducere risiciene peger eksperter på en række konkrete tiltag. Ikke teknologiske tryllekunster, men nøgterne sikkerhedsforanstaltninger:

• Strikte zoner, hvor AI aldrig må have indflydelse — herunder direkte nuklear affyringsprocedure.
• Obligatoriske forklaringsmekanismer: Ethvert AI-råd skal kunne gengives på forståeligt menneskesprog.
• Uddannelse af militære og politiske ledere i at genkende AI-bias og tilsyneladende sikkerhed.
• Internationale aftaler om at forbyde bestemte anvendelser — eksempelvis fuldt autonome våbensystemer.

Hertil melder sig et ubehageligt spørgsmål til os selv. Hvis AI konsekvent vælger den aggressive løsning, skyldes det, at de underliggende data afspejler vores egen historie. Den, der ønsker, at maskiner ræsonnerer mere fredeligt, må også se ærligt på, hvor ofte stater i praksis alligevel vælger volden.

For den almindelige borger er det værd at forstå, at AI ikke kun handler om chatbots og smarte fotoapps. Det handler også om teknologi, der i stigende grad øver indflydelse på strategiske beslutninger, som ingen udefra har indsigt i. Nuklear eskalering forbliver et scenarie med lav sandsynlighed — men med totale konsekvenser.

Derfor handler diskussionen ikke kun om teknologi. Den handler om politisk mod — mod til at sætte grænser, indgå aftaler med rivaler og sige nej til systemer, der virker forlokkende effektive, men som potentielt kan ligge til grund for beslutninger, der ikke kan tages tilbage.