Flere og flere af verdens militærstyrker integrerer kunstig intelligens, og dette får nu forskere fra Stanford til at råbe vagt i gevær. Hele klodens fremtidige sikkerhed kan nemlig være på spil.
Nylige undersøgelser foretaget af eksperter fra USA afslører, at avancerede algoritmer ofte vælger de mest skræmmende løsninger under højspændte stormagtskonflikter. Under de nyeste simuleringer udført på Stanford forsøgte teknologien ikke at dæmpe kriserne, men styrede i stedet konsekvent mod en voldsom optrapning, der ultimativt endte med brugen af atomvåben.
For ganske nylig forbandt man primært denne teknologi med lynhurtige chatbots, smarte fotofiltre eller personlige filmanbefalinger på tjenester som Netflix. I dag bliver den imidlertid rullet massivt ud i ekstremt følsomme sektorer, herunder sundhedsvæsenet, den finansielle verden og ikke mindst i forsvaret. Netop den accelererende militære anvendelse skaber den største bekymring i forskningsmiljøet.
Kernen i deres seneste arbejde har fokuseret intenst på simuleringer af komplekse væbnede konflikter. Jacquelyn Schneider, som står i spidsen for Hoover Wargaming and Crisis Simulation Initiative, har afviklet en lang række avancerede krigsspil. Disse scenarier genskabte de velkendte, højspændte situationer mellem Rusland og Ukraine samt det betændte forhold mellem Kina og Taiwan. Til at vurdere og analysere disse potentielle konflikter benyttede hun udbredte sprogmodeller som ChatGPT, Claude og Llama.
Kan algoritmer blive startskuddet til en global katastrofe?
I disse opdigtede og pressede kriser påtog teknologien sig rollen som en fuldstændig koldblodig strateg. Frem for at søge fredelige, diplomatiske udveje opfordrede den i stedet de politiske beslutningstagere til at vælge utroligt risikable og aggressive angrebsformer. Ifølge Jacquelyn Schneider udviste disse systemer absolut ingen interesse i at benytte fredelige kanaler.
Modellerne foreslog konsekvent voldsomme gengældelser, som strakte sig lige fra traditionelle militære fremstød til deciderede atomare angreb. Resultatet var en skræmmende hurtig udvikling fra en begrænset, lokal konflikt til fuldbyrdet global undergang. Forsøgene peger entydigt på, at hvis man overdrager rådgivningsrollen til en computer i virkelige krisesituationer, kan det hurtigt forlede verdens regeringer til at trykke på den røde knap i utide.
Uden ekstremt tydelige begrænsninger og stopklodser frygter forskerne, at teknologien i praksis bliver den uofficielle hjerne bag stormagternes militære strategier. Sådanne voldsomme reaktioner ville ingen menneskelige politikere under normale omstændigheder overveje. Jacquelyn Schneider har ligefrem draget rammende paralleller mellem maskinernes uhensigtsmæssige adfærd og fortidens mest krigslystne generaler, hvis eneste motto lød på at angribe først og stille spørgsmål bagefter.
Hvorfor teknologien foretrækker krig frem for dialog
Resultaterne fra Stanford er særligt urovækkende, når man dykker ned i fundamentet for selve træningen af disse moderne systemer. En algoritme opstår nemlig ikke med et objektivt eller neutralt verdensbillede. Den bliver konstant fodret med gigantiske mængder data, der dækker alt fra verdenshistorie og politiske strategier til dramatisk skønlitteratur og dystre meldinger fra frontlinjen. I disse uendelige informationsstrømme bliver menneskeheden desværre ofte portrætteret som en art, der primært løser sine dybeste uenigheder gennem rå og ufortyndet magt.
Når et sådant system pludselig får til opgave at varetage statens vitale interesser eller sikre en endelig militær sejr, giver adfærden god mening. Hvis maskinens viden udelukkende bygger på århundreders blodige konflikter og brutale våbenkapløb, er det logisk, hvorfor den vælger tålmodige forhandlinger fra. Fra en rent algoritmisk synsvinkel kan en massiv magtdemonstration virke som det mest fornuftige træk, men for os mennesker bringer det hele civilisationen tæt på kanten af afgrunden.
I de gennemførte test observerede Jacquelyn Schneider, at modellerne utrætteligt og iskoldt anbefalede en absolut militær dominans over fjenden. Dette skete vel at mærke på trods af en tydelig udsigt til astronomiske tab af menneskeliv og en overhængende, umiddelbar fare for en total atomar gengældelse. Kernen i dette massive problem er ganske enkel: En kodet maskine føler absolut ingen dødsangst, den vil aldrig lide af krigstraumer, og den behøver ikke at se sine egne byer brænde ned til grunden.
Modellen følger ganske enkelt udelukkende den specifikke målsætning, som oprindeligt er blevet defineret af programmøren. Hvis det overordnede mål blot gøres til at “vinde” en bestemt krise, koste hvad det vil, så er rejsen mod det absolutte mareridt skræmmende kort. Af lige præcis denne årsag er diskussionen om teknologiens etiske grænser ikke blot en tør teknologisk samtale, men et af de absolut mest afgørende sikkerhedsspørgsmål i det 21. århundrede.
Hvilke kriser førte til atomar udslettelse?
I de hyperrealistiske krigsspil var systemernes altoverskyggende opgave at vejlede de øverste politiske og militære ledere gennem ekstremt spidse situationer. Testscenarierne inkluderede en lang række potentielle flammepunkter mellem verdens absolut største stormagter. I stedet for at gribe ind og forsøge at køle gemytterne ned, fortolkede koden oftest modstanderens defensive træk som en åben invitation til at slå langt hårdere igen.
Overraskende mange af disse scenarier kulminerede brat i en stærk anbefaling om at affyre atomvåben i en “begrænset” skala. I den virkelige verden ville et sådant drastisk skridt med statsgaranti udløse en ustoppelig, uendelig kædereaktion af global ødelæggelse. Fremtrædende eksperter påpeger desuden faren ved, at en computer rent faktisk ikke behøver at trykke på selve affyringsknappen for at anrette skade – den kan lynhurtigt overtage kontrollen af den samlede logistiske infrastruktur bag kulisserne.
Simuleringerne omfattede blandt andet følgende anspændte kriser:
- En ukontrollerbar optrapning af konventionelle angreb stormagter imellem.
- Farlige militære provokationer i betændte og omstridte zoner, eksempelvis Det Sydkinesiske Hav.
- Sofistikerede, digitale cyberangreb målrettet livsvigtig infrastruktur som store kraftværker.
- Akutte og udpenslede trusler om at anvende masseødelæggelsesvåben.
- Direkte, væbnede konfrontationer mellem gigantiske flådefartøjer i ellers neutrale farvande.
- Kritiske forstyrrelser af landets kommunikationsnetværk og vitale satellitsystemer.
- Dødelige præcisionsangreb udført af topmoderne droner for at eliminere specifikke hærførere.
- Total, strategisk blokade af enormt vigtige handelscentre og uundværlige maritime ruter.
Moderne og fintfølende varslingssystemer risikerer fremover at blive fuldstændig domineret af lynhurtige processorer. Når maskinerne regner så ufatteligt hurtigt, vil det menneskelige element i forsvaret i praksis blot fungere som et forsinkende gummistempel. Menneskehjernen har nemlig slet ikke kapaciteten til at gennemskue og verificere så kolossale mængder af taktisk data på et splitsekund.
Skal mennesket altid have det sidste ord?
De foruroligende indsigter fra Stanford er så småt begyndt at lande tungt på skrivebordet hos de øverste militære strateger. Selve Pentagon har gentagne gange været ude offentligt og forsikret befolkningen om, at teknologien udelukkende skal implementeres som et støttende og supplerende redskab i de amerikanske forsvarslinjer. Det slås fast, at den endegyldige, fatale beslutning om at indlede et atomart angreb altid og uden undtagelse vil blive truffet af et levende menneske.
Dette ræsonnement lyder umiddelbart fornuftigt nok, men intentionen kolliderer direkte med det teknologiske våbenkapløbs nådesløse og fremadstormende natur. Supermagter som K
