Hele branchen for kunstig intelligens oplevede for nylig, hvor utroligt betændt emnet omkring militær brug kan være. Efter en omstridt aftale med det amerikanske forsvarsministerium skød afinstallationer af ChatGPT i vejret med næsten 300 procent. Det hele udspringer af, at skaberen bag Claude, Anthropic, sagde nej tak til et samarbejde for at beskytte deres egne etiske grænser. Selvom det lyder som et rent amerikansk anliggende for almindelige brugere i Tjekkiet, vil beslutninger truffet i Washington og Silicon Valley i dag forme fremtidens teknologi på verdensplan. Eksperter advarer nemlig om faren ved, at private tech-giganter egenrådigt trækker stregen i sandet for global etik.
Sådan afviste Anthropic Pentagon og endte på en sortliste
Fortællingen tager sin begyndelse med et tilbud fra militæret til virksomheden Anthropic. Ønsket var at integrere deres avancerede sprogmodel i systemer til lynhurtig analyse af alt fra satellitbilleder til komplekse data fra slagmarken. Målet var at skære værdifulde sekunder af befalingsmænds beslutningsprocesser under pressede operationer.
Dog satte tech-firmaet hælene i med to ufravigelige krav. For det første nægtede de at lade systemet indgå i fuldautomatiske våbensystemer, der selvstændigt kunne træffe beslutninger om dødelig magtanvendelse. For det andet nedlagde de forbud mod masseovervågning af den brede befolkning i USA.
Disse betingelser faldt ikke i god jord hos forsvarets top, og ifølge forlydender placerede administrationen under Donald Trump efterfølgende firmaet på en sortliste, som blokerede for lukrative offentlige udbud. Virksomheden forblev tro mod deres principper, men betalte en høj pris.
Situationen gøres endnu mere mudret af, at anonyme kilder peger på, at Claude alligevel anvendes indirekte i spændte operationer, der involverer USA, Israel og Iran. Forsvarsministeriet nægter at kommentere på disse rygter, hvilket efterlader et stort tomrum af ubesvarede spørgsmål.
Hvad OpenAI underskrev og hvorfor det gjorde brugerne rasende
Da konkurrenten trådte tilbage, så OpenAI straks en gylden mulighed for at udfylde det tomrum, der var opstået. En fredag blev papirerne underskrevet, hvilket i praksis sendte ChatGPT direkte ind i forsvarsindustrien, selvom mange af detaljerne i kontrakten forblev mørkelagte.
Allerede dagen efter forsøgte Sam Altman at dæmpe gemytterne ved at hævde, at deres sikkerhedsprotokoller var endnu strammere end dem, rivalen havde forlangt. Det blev dog hurtigt opfattet som et billigt forsøg på at lukrere på andres moralske kompas, frem for en reel beskyttelse af forbrugerne.
Reaktionen faldt prompte. Tal fra analysefirmaet Sensor Tower afslørede et astronomisk hop i den daglige afinstallationsrate på hele 295 procent. Udviklere og akademikere rasede over det, de opfattede som et groft svigt af fundamentale værdier, og beskyldte platformen for at sælge ud til militæret.
Da kalenderen ramte mandag, måtte topchefen krybe til korset. Han indrømmede offentligt, at forløbet fremstod forhastet og stærkt opportunistisk, hvorefter han lovede at revidere aftalen. På ganske få dage var platformen gået fra at være et symbol på ansvarlig innovation til at blive kædet sammen med krigsmaskineriet.
De konkrete ændringer OpenAI lovede at foretage i aftalen
Det enorme pres fra offentligheden og truslen om et massivt boykot tvang virksomheden til at indføre markante, juridiske ændringer. Disse modifikationer havde primært fokus på overvågning og efterretningstjenesternes direkte adgang til teknologien.
Her er de vigtigste ændringer:
- Et direkte forbud mod bevist at benytte systemerne til at overvåge befolkningen i USA.
- Blokering af automatisk adgang for agenturer som NSA, medmindre der forhandles en helt ny tillægsaftale.
- En understregning af, at teknologien udelukkende skal assistere analytikere og aldrig erstatte mennesker i beslutninger om våbenbrug.
- Krav om fuld gennemsigtighed og rapportering, hvis teknologien forsøges misbrugt.
- Klar ret til at trække stikket til tjenesten, såfremt retningslinjerne overtrædes af staten.
- Gennemførelse af en uvildig revision hver 6. måned.
- Strenge begrænsninger på adgangen til de allernyeste modeller i forbindelse med potentielt dødelige missioner.
Denne strategi viste en fundamental forskel på de to rivaler. Hvor Anthropic valgte at afvise ordren fuldstændigt, forsøgte konkurrenten at indgå et diplomatisk kompromis. Analytikere fra Center for American Progress vurderer dog, at disse tiltag nemt kan falde til jorden, hvis der ikke etableres en stærk og uafhængig kontrolinstans.
Hvorfor forsvaret jagter kunstig intelligens så intensivt
Årsagen til denne stærke interesse bunder i en massiv vision for fremtidens krigsførelse. Virksomheder som Palantir har allerede skabt platforme, der samler alt fra droneoptagelser til efterretningsrapporter og serverer dem som færdige anbefalinger direkte til kommandocentralen.
Militære ledere ser et system, der lynhurtigt kan trække mønstre ud af komplekse data – langt hurtigere end snesevis af menneskelige analytikere nogensinde ville kunne. Den højtstående general Roger Cloutier sammenlignede for nylig implementeringen af teknologien i forsvaret med den revolution, dampmaskinen bragte til industrien under den industrielle revolution.
Spændingsfeltet opstår dog ved modellernes indbyggede fejlbarlighed. Mens opdigtede fakta i en dagligdags chat blot skaber et akavet øjeblik for brugeren, kan disse “hallucinationer” på en slagmark koste uskyldige liv. Forskere fra Massachusetts Institute of Technology har slået alarm over det psykologiske pres, der vil ligge på hærførere for blindt at stole på maskinens anbefalinger under voldsomt tidspres.
Sådan gav krisen for ChatGPT en uventet fordel til Claude
Den voldsomme mediestorm resulterede i øjeblikkelige rystelser på markedet for kunstig intelligens. Da tusindvis valgte at slette deres vante assistent, begyndte jagten på et mere forsvarligt alternativ. Her fremstod Claude som den åbenlyse vinder, netop fordi skaberne havde taget kampen op mod militæret.
Friske tal fra App Store vidner om, at applikationen strøg direkte til tops allerede lørdag og bibeholdt sin førerposition mindst frem til torsdag. Markedsanalytikere anslår ligefrem, at firmaet på en enkelt uge skaffede en mængde nye brugere, der normalt ville kræve flere måneders intensiv og dyr markedsføring.
Sideløbende eksploderede en velorganiseret modstandskampagne på nettet. Under fanerne CancelChatGPT og QuitGPT blev folk opfordret til at forlade platformen permanent, indtil ethvert omstridt samarbejde var afbrudt. Flere aktivister anser forløbet som den ultimative test af, om græsrødder reelt kan diktere tech-giganternes gøren og laden.
Hele fadæsen forvandlede sig i praksis til en gratis reklamesøjle for Anthropic under det stærke, usagte slogan: “vi gav ikke efter”. På toneangivende fora som Reddit og Hacker News debatterer udviklere nu passioneret omkring etik, mens en stor andel officielt melder deres skift væk fra den hidtidige markedsleder.
Bør almindelige brugere bekymre sig om militære kontrakter?
For den gennemsnitlige forbruger kan disse komplekse militæraftaler virke utroligt fjerne fra hverdagen. Sandheden er dog, at de principper, der fastlægges i dag i knudepunkter som Washington og Silicon Valley, direkte dikterer kvaliteten og retningen af de funktioner, vi alle har i lommen om få år.
Hvis sprogmodeller primært fodres og opdrages med strategiske forsvarsdata, vil de uundgåeligt arve den specifikke branches skarpe kanter og kognitive skævheder. Viser det sig desuden, at regeringskontrakter er fuldstændig immune over for forbrugerboykots, vil virksomhederne fremover sandsynligvis vælge den sikre profit frem for etiske begrænsninger. Forskeren Mariarosaria Taddeo understreger, at hele økosystemets fundamentale sikkerhed svækkes alvorligt, når de mest ansvarlige aktører presses ud.
Dette er et oplagt tidspunkt at nærlæse de betingelser, som tech-firmaerne dikterer. Tør de definere klart, hvem de deler deres kernekapaciteter med? Selvom utilfredse kunder aldrig kan erstatte formel lovgivning, sender det et rungende signal om, at troværdighed i dag er en hård valuta. Folkene hos Center for American Progress peger direkte på, at dramaet er et afgørende vink med en vognstang til Kongres om hurtigst muligt at gribe ind over for militærets AI-brug.
Det bliver stadig sværere at navigere mellem ønsket om lynhurtig innovation og behovet for absolut sikkerhed. Generative algoritmer udvikler sig i et dræbende tempo, men manglen på pålidelighed i livskritiske situationer lurer som en mørk skygge. Skellet mellem en uskyldig digital assistent og en decideret medbeslutningstager udviskes minut for minut – og netop nu udspiller slaget sig om, hvorvidt maskinen nogensinde må få det sidste ord.
