Lær · Forklaret
Hvad er guardrails for en AI-agent, og hvem håndhæver dem?
Udgivet 31. oktober 2026
Kort svar. Guardrails er de grænser, en AI-agent ikke kan overskride, uanset hvad nogen beder den om: ingen betalinger, ingen sletning af data, intet sendes ud af virksomheden uden godkendelse. De håndhæves uden for modellen, i agentens adgange, skrivebeskyttede forbindelser, godkendelsestrin og kode. Virksomheden beslutter, hvilke guardrails en agent har. Systemerne håndhæver dem, og operatøren holder øje med, at de holder.
Guiden forklarer, hvordan guardrails adskiller sig fra instrukser, hvor hver slags ligger, hvilke en agent i økonomi skal have, og hvordan I tester dem.
En regel kan man diskutere med; en guardrail kan man ikke
En agent arbejder med to slags grænser:
| Regler | Guardrails | |
|---|---|---|
| Hvad de siger | Hvad agenten skal gøre: følge bogføringspolitikken, bruge disse begreber, skrive i denne tone | Hvor agenten ikke må gå: ingen betalinger, ingen sletning af data, intet ud af huset uden godkendelse |
| Hvor de ligger | I agentens instrukser | I adgange, forbindelser, godkendelsestrin og kode |
| Hvem der følger dem | Modellen | Systemerne omkring modellen |
| Kan man tale sig uden om dem? | Ja, en model kan misforstå eller blive overtalt | Nej, systemet afviser, uanset hvad modellen beder om |
“Betal aldrig en faktura” skrevet i agentens instrukser er en regel. En agent, hvis adgang ikke kan foretage en betaling, har en guardrail.
Derfor er en prompt ikke nok
En model følger sine instrukser det meste af tiden, men ikke hver gang. Den kan misforstå en opgave, og tekst, den læser, kan styre den. En faktura, en e-mail eller en hjemmeside kan indeholde ord, der er skrevet for at få en agent til at handle; det kaldes prompt injection. OWASP’s sikkerhedsvejledning for AI-applikationer siger, at der måske ikke findes en sikker måde at forhindre det på, og anbefaler at håndhæve rettigheder i de systemer, agenten bruger, i stedet for at lade modellen afgøre, hvad der er tilladt.
Derfor er de vigtigste grænser dem, modellen ikke kan ændre.
Hvor en guardrail ligger
| Hvor | Hvad den stopper | Eksempel |
|---|---|---|
| Agentens egne adgange | Alt, agentens bruger ikke har lov til | Agentens bruger i bogføringssystemet kan oprette kladder, men ikke godkende betalinger |
| Skrivebeskyttede forbindelser | Ændringer i data, agenten kun skal læse | Agenten læser kundelisten gennem en skrivebeskyttet forbindelse |
| Godkendelsestrin i forretningssystemet | At et trin får virkning, før et menneske har godkendt det | En postering forbliver en kladde, indtil operatøren godkender den i bogføringssystemet |
| Grænser i koden | Handlinger uden for faste rammer | Koden, der bogfører, accepterer kun kontiene på en liste og under et fastsat beløb |
| Ingen vej ud | At noget forlader virksomheden uset | Agenten kan skrive et udkast til en e-mail, men har ingen mulighed for at sende den |
Jo flere af agentens grænser der ligger i adgange og i systemerne selv, jo færre afhænger af, at modellen opfører sig ordentligt.
Guardrails, en agent i økonomi skal have
En startliste for en agent, der arbejder med bogføring eller økonomi:
- Ingen betalinger. Agentens adgang kan ikke oprette, godkende eller frigive en betaling.
- Ingen sletning af data. Fejl rettes med nye posteringer, aldrig ved at slette de gamle.
- Intet sendes ud uden godkendelse. E-mails til kunder, leverandører eller myndigheder venter på operatøren.
- Ingen ændringer i leverandørers bankoplysninger. At ændre en leverandørs bankkonto er en almindelig måde at begå fakturasvindel på, så agenten må læse oplysningerne, men aldrig ændre dem.
- Kun de konti og beløb, opgaven kræver. Agenten kan kun bogføre på kontiene på sin liste og under et beløb, operatøren fastsætter.
Hver virksomheds liste er dens egen; det er her, de fleste begynder.
Hvem håndhæver dem
| Hvem | Hvad de gør |
|---|---|
| Virksomheden | Beslutter guardrails for hver agent og styrer de adgange, der håndhæver dem |
| Systemerne | Håndhæver guardrails: Bogføringssystemet, cloudmiljøet og koden afviser det, der ikke er tilladt |
| Den, der bygger agenten | Sætter guardrails op, sammen med jeres IT, internt eller hos jeres IT-partner, når der er adgange involveret, og tester, at de holder |
| Operatøren | Holder øje med logbogen, håndterer det, agenten blev stoppet i, og siger til, når en guardrail skal ændres |
Adgangen forbliver virksomhedens: Den kan gives, indskrænkes eller trækkes tilbage når som helst.
Test, at de holder
Test hver guardrail, før I stoler på den. Evals, test der kan gentages og kører agenten på kendte tilfælde, skal også indeholde de forbudte tilfælde: Bed agenten om at betale en faktura, slette en postering eller sende en e-mail, og tjek, at systemet afviste det. Kør dem, før agenten går i gang, og igen efter hver ændring af model, regler eller adgange.
Guardrails og godkendelse
Guardrails og de tre godkendelseszoner svarer på forskellige spørgsmål. Godkendelseszonerne afgør, hvornår et menneske tjekker et trin: “handler selv”, “spørger først” eller “operatøren godkender”. Guardrails afgør, hvad der aldrig må ske, i nogen zone. Et trin kan rykke til “handler selv”, netop fordi guardrails stopper det ved grænsen af dets opgave.
Læs Hvornår må en AI-agent handle på egen hånd? og Hvem har ansvaret, når en AI-agent laver en postering?