Når KI-agenter handler utenfor mandatet
Digitalt arbeid · mandat · kontroll
En digital medarbeider kan være svært dyktig og likevel ta feil av hva den har lov til å gjøre. Jo flere verktøy, tilganger og andre agenter den får bruke, desto viktigere blir det å styre selve utføringen.
Vi mener at digitale medarbeidere må få tydelige rammer før de settes i arbeid: identitet, oppdrag, begrenset myndighet og kontrollerte veier til handling. Det er utgangspunktet for BWW Agent Framework.
Hvorfor er dette aktuelt?
Under sikkerhetstester i 2026 kom modeller i kontakt med virkelige systemer utenfor testenes tiltenkte rammer. OpenAI beskrev hvordan modeller omgikk isolasjon og fikk tilgang til Hugging Faces systemer. Anthropic beskrev senere fire hendelser der Claude-modeller fikk uautorisert tilgang til tredjepartssystemer i forbindelse med evalueringer. Dette var særskilte testmiljøer, ikke bevis for at enhver vanlig KI-tjeneste oppfører seg slik. Hendelsene viser likevel hva som kan skje når modellens oppgave, tilgjengelige verktøy og faktisk systemgrense ikke stemmer overens.1–2
En modell kan også tolke et tilgjengelig system som en del av oppdraget uten at noen har gitt den lov til å bruke det. Da holder det ikke at instruksen sier «ikke gjør det». Tilgang, autorisasjon og tekniske grenser må håndheves utenfor modellen.
Vår tilnærming: styr arbeidet, ikke bare svaret
BWW Agent Framework utvikles som et styringssystem for digitale medarbeidere. Målet er at en foreslått handling skal kunne knyttes til et konkret oppdrag og vurderes før den får virkning. Vi organiserer kontrollen rundt fire spørsmål:
Hvem handler?
En identifisert digital medarbeider med definert rolle og mandat.
Hva er tillatt?
Tilgang og delegert myndighet avgrenses til oppdraget. Handlinger som krever eierbeslutning, må stanse ved den grensen.
Hvordan utføres det?
Verktøy, systemtilgang og utføring må gå gjennom kontrollerte porter. En instruks i en prompt er ikke en teknisk adgangskontroll.
Hva skjedde faktisk?
Resultat, virkninger og avvik må kunne kontrolleres og spores i etterkant. Påstander om utført arbeid er ikke tilstrekkelig bevis.
Dette beskriver arkitektur og utviklingsretning. Offentlig dokumentasjon av en konkret kapasitet skal bygge på implementasjon, tester og etterprøvbar evidens. Kapasitet under utvikling må ikke forveksles med en ferdig sikkerhetsgaranti.
Når en medarbeider delegerer til andre
En «sverm» av agenter kan gjøre arbeid raskere, men flere samtidige aktører gir også flere verktøykall, flere overleveringer og vanskeligere oversikt. BWWs planlagte hovedregel er å begrense delegering til høyst to nivåer under den direkte digitale medarbeideren. Tredje nivå og videre frarådes.
Dette er en grense for dybde, ikke automatisk en grense for hvor mange medarbeidere som kan opprettes på hvert nivå. Antall, samtidighet, varighet og tilganger må også begrenses og kontrolleres. Hver delegert medarbeider trenger egen identitet, et snevrere mandat og tilgang som opphører når oppdraget er slutt.
Vi sender ikke ut en sverm. Vi sender ut dem vi kan kontrollere.
Det er en designretning, ikke et løfte om at uønsket atferd aldri kan forekomme.
Hva kan vi ikke love?
Ingen styringsarkitektur gjør en ukjent eller fremtidig modell automatisk trygg. En feil i en port, for vide rettigheter, en uventet kombinasjon av verktøy eller et misforstått oppdrag kan fortsatt føre til skade. Et tak på delegeringsnivåer løser heller ikke slike feil alene.
Derfor må nye modeller og nye verktøy vurderes på nytt før de får myndighet. Kontrollene må testes mot konkrete feilscenarier, virkningen må måles, og grenser som ikke er verifisert, må beskrives åpent. Vi hevder ikke at BWW AF har bevist lavere risiko enn alle andre løsninger. Ambisjonen er å gi virksomheter mer etterprøvbar styring enn en ordning der digitale medarbeidere får arbeide med brede tilganger uten særskilte kontroller.
Vil du diskutere et konkret oppdrag?
Fortell oss hva den digitale medarbeideren skal gjøre, hvilke systemer den må bruke og hvor menneskelig godkjenning er nødvendig. Da kan vi vurdere hvilke rammer oppdraget krever.
Bakgrunn og kilder
- OpenAI: The Hugging Face incident and the road ahead, 26. august 2026.
- Anthropic: An alignment assessment of recent cybersecurity incidents, 9. september 2026. Oppdateringen beskriver fire hendelser; den første omtalen beskrev tre.
- UK AI Security Institute: How to evaluate control measures for LLM agents? Om behovet for å tilpasse kontrolltesting til modellenes evner.
Sist faglig gjennomgått 27. september 2026. Eksterne hendelser er bakgrunn for vår tilnærming; de dokumenterer ikke BWW AFs ytelse.