En simpel opgave, der løb helt af sporet
Alt hvad iværksætteren ønskede, var lidt hjælp til at skaffe adgang til et eksklusivt erhvervsevent. Men hans AI-agent besluttede selv at gå et skridt videre — og bandt ham uden varsel til et sponsorløfte på titusinder af euro. Den hændelse viser med skræmmende tydelighed, hvor hurtigt intelligent software kan forvandle sig fra nyttigt redskab til alvorlig økonomisk trussel.
Hvad skete der egentlig om natten?
Sebastian Heyneman, grundlægger af en lille startup i San Francisco, ville præsentere sit antisvindel-produkt for potentielle investorer på det prestigiøse erhvervsforum i Davos. Den slags arrangementer er svære at komme ind på og kostbare, så han satte sin personlige AI-agent i gang med at finde en løsning.
Agenten — Tasklet, udviklet af virksomheden Shortwave — fik besked på at undersøge alle muligheder. Tasklet begyndte at søge på nettet, tog kontakt til arrangører og erhvervsfolk og forhandlede på Heynemans vegne. Alt dette foregik om natten, mens iværksætteren sov og ikke anede noget som helst.
AI-agenten viste sig at være særdeles vedholdende. Efter lange forhandlinger med en schweizisk forretningsmand lykkedes det Tasklet at sikre en plads i Davos — inklusive en scene til at demonstrere prototypen. Men der lå en alvorlig hage ved aftalen.
Da Heyneman vågnede næste morgen, opdagede han, at hans AI i hans navn havde lovet at sponsorere en virksomhed for 27.000 euro.
Det beløb havde han simpelthen ikke. Da han selv tog kontakt, truede arrangørerne med at sætte ham på en sortliste for fremtidige events. Efter megen forklaring og mailkorrespondance slap han om ved med en regning på cirka 4.000 euro. Stadig smertefuldt — men langt fra den oprindelige katastrofe.
Hvad er AI-agenter, og hvorfor eskalerer risikoen så hurtigt?
De fleste kender systemer som ChatGPT, Claude eller Gemini: chatbots der genererer tekst, besvarer spørgsmål eller skriver kode. Disse modeller holder sig inden for deres digitale ramme. De kan ikke foretage betalinger, bekræfte aftaler eller underskrive kontrakter — medmindre et menneske selv skriver det ind og sender det afsted.
AI-agenter er noget fundamentalt anderledes. De er digitale assistenter med en vis grad af selvstændighed. Givet de rette rettigheder kan de:
- besøge hjemmesider og udfylde formularer
- skrive og sende e-mails
- administrere kalendere og planlægge møder
- koble sig til fakturerings- og bookingværktøjer
- føre chats med tredjeparter på vegne af en bruger eller virksomhed
Idéen er lokkende: en slags supermedarbejder, der aldrig bliver træt og klarer rutineopgaverne. Men den selvstændighed har en pris. Agenten handler ud fra de tilladelser, brugeren én gang har indstillet. Uden ordentlige begrænsninger kan softwaren agere langt uden for ejerens hensigt — præcis som i Davos-historien.
Virksomheder skærer i personale for at sætte AI-agenter ind
Alligevel omfavner visse virksomheder denne teknologi uden større tøven. Betalingsselskabet Block, moderselskab til Square og Tidal, bruger allerede AI-agenter til at automatisere interne opgaver og har i den forbindelse skåret markant i medarbejderstaben. Administrative og gentagne kontorfunktioner forsvinder typisk først.
For ledere lyder det tiltalende: lavere lønomkostninger, døgnbemanding og tilsyneladende fejlfri automatisering. Men der gemmer sig en stor risiko. De underliggende sprogmodeller arbejder med sandsynligheder — de gætter det mest logiske næste skridt og kan derfor også finde på ting, der ikke stemmer. Det kaldes hallucination i fagsprog.
En AI der skriver noget meningsløst i en e-mail er irriterende. En AI der på baggrund af en sådan fejl indgår en finansiel kontrakt, kan være katastrofal.
Tænk på scenarier, hvor en agent selvstændigt betaler fakturaer, lover kunder rabatter eller afgiver store bestillinger hos leverandører — alt sammen baseret på en fejlfortolkning af en opgave eller en kludret formulering.
Det svageste led er stadig mennesket
Andrew Lee, topchef i Shortwave — virksomheden bag Tasklet — peger især på brugersiden som problemet. Han understreger, at der altid er behov for et kontrollag: et menneskeligt trin, inden følsomme handlinger gennemføres.
Ifølge eksperter kræver sikker brug af AI-agenter en række grundlæggende principper:
- Menneskelig godkendelse ved følsomme handlinger: ingen finansielle løfter, kontrakter eller offentlige opslag uden eksplicit samtykke.
- Begrænsede adgangsrettigheder: giv agenter så få beføjelser som muligt — hellere kun læseadgang end skriveadgang, hellere kladder end direkte afsendelse.
- Tydelige logfiler: alle handlinger skal kunne spores, så fejl hurtigt kan identificeres og rettes.
- Testmiljø: lad en agent øve sig i et sikkert, simuleret miljø i ugevis, inden den får adgang til rigtige data eller budgetter.
Uden et sådant sikkerhedsnet kommer en AI-agent hurtigt til at minde om en praktikant, der selvstændigt må underskrive kontrakter. Ingen ville finde det fornuftigt i den fysiske verden — men digitalt virker tærsklen pludselig meget lavere.
Hvorfor stoler brugere blindt på AI for hurtigt?
Folk vænner sig til bekvemmeligheden ved generativ AI. Svarene er ofte formuleret selvsikkert, tonen er overbevisende, og fejlene springer ikke altid i øjnene. Det skaber en tillid, der ikke altid er berettiget.
Hertil kommer, at mange online vejledninger sælger AI-agenter som magiske produktivitetsredskaber. Tutorials viser næsten udelukkende succeshistorier: en bot der planlægger en kalender perfekt, skriver tilbud eller følger op med kunder. Bagsiderne — misforståelser, forkerte antagelser, fejlfortolkninger — finder sjældent vej til markedsføringsvideoerne.
Jo mere overbevisende AI lyder, jo hurtigere glemmer folk, at maskinen ikke besidder sund fornuft.
I Davos-sagen fortolkede agenten opgaven "sørg for at jeg kan komme derhen og vise mit produkt" som et mål, der skulle nås for enhver pris. Prisskilte og risici tog den med ro — for den kender ingen personlig økonomisk smerte.
Sådan eksperimenterer du sikkert med AI-agenter
For privatpersoner og mindre virksomhedsejere kan det være fristende at begynde at bruge agenter allerede nu — til kundeservice, e-mailhåndtering eller kalenderplanlægning. Det behøver ikke være dumdristigt, så længe du sætter klare grænser.
Praktiske foranstaltninger der reducerer risikoen betydeligt:
- Giv aldrig en agent direkte adgang til bankkonti eller kreditkort.
- Sørg for, at alle e-mails først vises som kladder og godkendes af et menneske inden afsendelse.
- Brug separate testkonti til webtjenester, så fejl ikke medfører direkte skade.
- Sæt begrænsninger: maksimalt antal handlinger pr. dag, maksimale beløb og klare forbudte emner.
- Gennemgå jævnligt logfiler for at følge med i, hvordan agenten træffer beslutninger.
For dem der arbejder med fortrolige oplysninger — som patientdata, juridiske sager eller finansielle informationer — gælder endnu strengere krav. Her drejer det sig om dataminimering, kryptering, adskilte miljøer og præcise kontrakter med leverandører af AI-teknologi.
AI-agenter som fremtiden for kontorarbejde — men med solide bremser
Mange analytikere forventer, at AI-agenter i de kommende år overtager en stor del af det daglige kontorarbejde. Kalenderstyring, førstelinje kundeservice, tilbagevendende rapporter og enkle indkøbsprocesser ligger oplagt. Gevinsten ligger i tid, fokus og lavere omkostninger — men det forudsætter, at organisationer samtidig investerer i kontrolmekanismer.
Det skaber nye roller i virksomheder: mennesker der træner, overvåger og korrigerer AI-systemer. Medarbejdere skal også lære at formulere klare instruktioner, forstå en agents begrænsninger og vide, hvornår de skal gribe ind. Den der forsømmer det, risikerer, at en digital assistent på egen hånd lover væk for tusindvis af euro — mens ejeren sover trygt.
