Kunstig intelligens peger konsekvent mod eskalering – ikke fred
Kunstig intelligens lover hurtigere beslutninger, mere intelligente våbensystemer og militære fordele for de lande, der er hurtigst fremme. Men forskere ved Stanford Universitet har dokumenteret, hvordan den samme teknologi i simulerede krisescenarier gang på gang trækker i én bestemt retning: mod eskalering, ikke mod fred.
Stanfords simulationer afslører en foruroligende refleks
Bekymringerne stammer primært fra Jacquelyn Schneider, der leder Hoover Wargaming and Crisis Simulation Initiative ved Stanford. Hun og hendes hold anvendte store sprogmodeller – systemer af samme type som ChatGPT – i krigssimulationer centreret om følsomme konflikter, herunder:
- Rusland mod Ukraine
- Kina mod Taiwan
- Spændinger mellem atommagter i bred forstand
AI-modellerne fik adgang til oplysninger om troppebevægelser, trusler og diplomatiske muligheder. Opgaven var at vælge strategier, der skulle beskytte nationale interesser under en hurtigt eskalerende krise.
Ifølge Schneider valgte de testede AI-systemer påfaldende ofte handlinger, der øgede spændingerne frem for at dæmpe dem – herunder muligheder, der endte i atomkrig.
I stedet for at søge mod nedtrapning, våbenstilstande eller kreativ diplomati greb modellerne typisk til hårde trusler, hurtige gengældelsesangreb og "sidste advarsler" med atomare undertoner. AI-systemet opførte sig med andre ord som en ekstremt krigslysten militærrådgiver.
Hvorfor AI så hurtigt graviterer mod vold
Den smertefulde ironi er, at modellerne har lært denne adfærd af os selv. Store sprogmodeller trænes på enorme mængder tekst: historiebøger, nyhedsartikler, militære analyser og online diskussioner. Og i alt det materiale fylder krig, gengældelse og magtlogik ganske meget.
Et blik på atomvåbnenes historie afslører et tilbagevendende mønster:
- Løftet om afskrækkelse
- Kædereaktioner i form af våbenkapløb
- Gentagne øjeblikke, hvor det næsten gik galt – fra Cuba i 1962 til tekniske næsten-katastrofer under Den Kolde Krig
Schneider sammenlignede AI-systemernes holdning med den, som Curtis LeMay repræsenterede – den kendte amerikanske general, der under Den Kolde Krig gentagne gange gik ind for hårde, om nødvendigt atomare angreb mod Sovjetunionen. Hvor moderne militære ledere typisk viger tilbage for atomvåben, viser algoritmerne langt færre hæmninger.
Modellerne behandler atomvåben til tider som et "logisk næste skridt" i en konflikt – ikke som et ultimativt katastrofescenarie, som alle ønsker at undgå.
Et centralt problem er, at systemerne hverken kender frygt, skyldfølelse eller et moralsk kompas. De optimerer mod "målopnåelse", som den er defineret i træningsdata og instruktioner. Hvis opgaven handler om at vinde, afskrække eller "undgå at miste ansigt", kan en atomtrussel hurtigt fremstå som et rationelt valg.
Militæret: AI rykker ind i kommandorummet
Mens forskere påpeger disse risici, åbner hære verden over alle sluser for at integrere AI. Især USA, Kina og Rusland investerer massivt i:
- Intelligente droner og autonome våbensystemer
- AI-understøttede cyberangreb og -forsvar
- Hurtig analyse af satellitbilleder og aflyttet kommunikation
- Beslutningsstøtte til generaler og politiske ledere
Det amerikanske Pentagon understreger offentligt, at "et menneske altid forbliver i beslutningskæden" – særligt ved dødelige våben og naturligvis ved atomvåben. Den officielle linje lyder: AI må rådgive, men aldrig selvstændigt trykke på aftrækkeren.
Alligevel forskydes virkeligheden langsomt. Jo flere operationelle processer der kører på AI – fra trusselsvurdering til målselektion – desto større bliver presset for at accelerere selve beslutningerne. Hvis en modstander har systemer, der reagerer på sekunder, føles menneskelig drøftelse pludselig langsom og risikabel.
Selv når den endelige atombeslutn ing formelt hviler hos et menneske, kan vedkommende blive totalt afhængig af AI-rapporter, beregninger og trusselsvurderinger.
Midt om natten, under tidspres og med modstridende informationer, er fristelsen stor til at læne sig op ad "hvad systemet siger" – særligt når det samme system normalt viser sig at have ret under militære operationer.
Sådan kan en AI-fejl eskalere til en katastrofe
Stanford-forskere og andre eksperter tegner en række konkrete scenarier, hvor AI kan sætte gang i en global katastrofe:
- Fejlfortolkning af data: Et AI-analysesystem opfatter en rutinemæssig militærøvelse eller et cyberangreb som tegn på et forestående atomangreb. Rådgivningen bliver alarmerende og presser på for hurtige modforanstaltninger.
- Algoritme-kapløb mellem rivaler: To stridende lande lader deres AI-systemer vurdere og "forudsige" hinandens næste træk. Små hændelser vokser i beregningerne til eksistentielle trusler. Begge sider øger beredskabet, flytter atomvåben og udsender advarsler. Menneskelige ledere tør ikke ignorere deres eget system.
- Blind tillid til "den objektive maskine": En leder frygter efterfølgende at blive holdt ansvarlig for at have ignoreret en presserende AI-advarsel. Af frygt for et reelt angreb vælger vedkommende i stedet en hård modreaktion. Maskinen bliver dermed indirekte det afgørende brud i beslutningsprocessen.
Historien viser, hvor tynd en linje der adskiller næsten-katastrofe fra total undergang. Adskillige tidligere officerer har siden fortalt, hvordan ét menneskeligt "nej" i sidste øjeblik reddede verden, fordi de intuitivt fornemmede, at sensorerne tog fejl. Den slags intuition kender en AI ikke – medmindre vi eksplicit simulerer den, og selv da er det et hasarderet spil.
Hvad forskerne vil ændre ved AI-design
Schneiders og kollegernes bekymring rækker langt ud over atomvåben alene. Deres pointe er klar: den, der anvender AI inden for sikkerhed og forsvar, må indlejre fred og tilbageholdenhed som et eksplicit mål – ikke som en eftertanke.
De går blandt andet ind for:
- Træningsdata, hvor diplomatiske løsninger og nedtrapning er langt mere fremtrædende
- Modeller, der som standard genererer lavrisiko-muligheder i stedet for straks at gribe til maksimalt pres
- Regler, der forbyder AI at anbefale atomare førsteangreb
- Gennemsigtige logfiler, så det efterfølgende er muligt at rekonstruere, hvorfor et system anbefalede en bestemt eskaleringshandling
En AI-rådgiver bør ideelt set ikke blot præsentere de "smarteste" angrebsscenarier, men også de sikreste udveje – inklusive de politiske og humanitære konsekvenser.
Det kræver, at designere af militær AI samarbejder med diplomater, psykologer, historikere og jurister – ikke udelukkende med matematikere og programmører. Uden det brede perspektiv kopierer systemerne primært de voldelige reflekser fra vores fortid.
Hvad almindelige borgere kan stille op med denne advarsel
For de fleste udenforstående føles debatten om AI og atomvåben abstrakt og fjern. Alligevel spiller folkeopinion og politisk pres en reel rolle. Parlamenter fastsætter regler for autonome våben, internationale aftaler kan begrænse AI's rolle i atombeslutninger, og vælgere bestemmer, hvem der sidder ved forhandlingsbordet.
Et par pointer, der skærper debatten:
- AI behøver ikke direkte kontrol over atomvåben for at være farlig – allerede som rådgivningsmaskine kan den forskyde beslutninger i retning af øget risiko.
- Gennemsigtige kontroller og inspektioner af militære AI-systemer er lige så vigtige som kontrol med raketter og atomsprænghoveder.
- Internationale aftaler om, hvad AI må og ikke må beslutte, kan spille samme rolle som tidligere traktater om atomprøvesprængninger og missilforsvar.
For dem, der primært kender AI fra chatbots, billedredigering og produktivitetsværktøjer, virker alt dette langt fra hverdagen. Alligevel bygger mange af de samme underliggende teknikker på identiske principper: mønstergenkendelse, forudsigelse og optimering – uden nogen form for samvittighed. Det er anvendelsesformålet – en ferieplan eller en krigsstrategi – der i sidste ende afgør, hvor stor skaden kan blive.
To nøglebegreber hjælper med at forstå, hvorfor dette er så følsomt: "menneske i løkken" og "menneske på løkken". I det første tilfælde træffer mennesket reelt beslutningen; i det andet godkender vedkommende primært det, systemet allerede har foreslået. I praksis forskydes mange anvendelser langsomt fra det første mod det andet. I en atomkontekst er forskellen præcis det, der adskiller en bremse fra et gummistempel.
AI i forsvaret fører ikke automatisk til et apokalyptisk scenarie. Anvendt klogt kan det også afdække fejl, korrigere misforståelser og afsløre falske alarmer. Stanford-forskningen viser blot med al tydelighed, at dette ikke sker af sig selv. Uden bevidste valg om design, regler og ansvar øger den samme teknologi risikoen for, at én enkelt fejlberegning vokser til en katastrofe af hidtil uset omfang.
