Slik fungerer BWW Agent Framework
Fra oppdrag til kontrollert og etterprøvbart resultat
BWW Agent Framework organiserer ikke bare AI-arbeid. Rammeverket styrer hele veien fra et oppdrag blir gitt, til arbeidet er utført, kontrollert og resultatet kan etterprøves.
Digitale medarbeidere kan utføre reelt arbeid, men ikke uten rammer. Arbeidet går gjennom definerte steg for kvalitet, godkjenning, autorisasjon og resultatkontroll.
Oppdrag → Medarbeider → Arbeid → QA → Godkjenning → Autorisasjon → Handling → Resultatkontroll
1. Oppdrag
Arbeidet starter med et definert mål
Et oppdrag beskriver hva som skal gjøres, hvilke rammer som gjelder og hvilket resultat som forventes.
Jo tydeligere oppdraget er definert, desto bedre grunnlag får både den digitale medarbeideren og kontrollmekanismene som følger arbeidet videre.
Poenget er enkelt:
AI skal ikke bare få tilgang og begynne å arbeide. Den skal få et konkret oppdrag.
2. Medarbeider
Riktig arbeid skal utføres av riktig digital medarbeider
Oppdraget gis til en digital medarbeider som er kvalifisert for den aktuelle typen arbeid.
En medarbeider skal ikke automatisk kunne gjøre alt systemet teknisk sett er i stand til.
Hva medarbeideren kan gjøre, avhenger blant annet av oppdraget, rollen, tilgjengelige verktøy og hvilke handlinger den er autorisert til å utføre.
3. Arbeid
Medarbeideren utfører selve oppgaven
Den digitale medarbeideren arbeider med tilgjengelig informasjon og godkjente verktøy for å løse oppdraget.
Det kan innebære analyse, bearbeiding av informasjon, utarbeidelse av forslag eller forberedelse av handlinger mot andre systemer.
Arbeid og faktisk handling er bevisst skilt fra hverandre.
Det at en medarbeider kan foreslå en handling betyr ikke nødvendigvis at den får lov til å utføre den.
4. QA – Kvalitetssikring
Arbeidet kontrolleres før det går videre
Resultater og foreslåtte handlinger kan gjennomgå kvalitetskontroll før neste steg.
Formålet er å oppdage feil, mangler eller avvik før de får konsekvenser i et virkelig system.
Kvalitetskontroll kan være forskjellig fra oppdrag til oppdrag, men prinsippet er det samme:
Kontroll før handling er billigere og tryggere enn å oppdage feil etterpå.
5. Godkjenning
Noen handlinger skal stoppe og vente på en beslutning
Handlinger som krever menneskelig eller annen uttrykkelig godkjenning skal ikke utføres automatisk.
Systemet kan derfor stoppe arbeidsflyten på riktig tidspunkt og vente på at den nødvendige beslutningen blir tatt.
Godkjenningen gjelder det konkrete arbeidet eller den konkrete handlingen – ikke en generell tillatelse til å gjøre hva som helst senere.
6. Autorisasjon
Godkjenning og teknisk rett til å handle er ikke det samme
Når en handling er godkjent, må systemet fortsatt avgjøre om akkurat denne handlingen faktisk er autorisert.
Autorisasjonen knytter tillatelsen til det som konkret skal utføres.
Dette reduserer risikoen for at en generell eller tidligere godkjenning blir brukt til noe annet enn det som faktisk ble besluttet.
Bare den handlingen som oppfyller de nødvendige kravene skal kunne gå videre.
7. Handling
Først nå skjer noe i et virkelig system
Når de nødvendige kontrollene er gjennomført, kan den autoriserte handlingen utføres.
Det kan eksempelvis være en endring i et system, en oppdatering av informasjon eller en annen operasjon som får en faktisk konsekvens.
Dette er et viktig skille i BWW Agent Framework:
Arbeid kan forberedes tidligere. Faktisk handling krever kontrollert autorisasjon.
8. Resultatkontroll
Vi kontrollerer hva som faktisk skjedde
Arbeidsflyten slutter ikke når en handling er sendt.
Systemet må også kunne kontrollere resultatet og bevare informasjon som gjør hendelsesforløpet etterprøvbart.
Spørsmålet er derfor ikke bare:
Hva forsøkte medarbeideren å gjøre?
Men også:
Hva skjedde faktisk?
Resultatkontroll er den kundevendte betegnelsen. I tekniske sammenhenger vil deler av denne prosessen også omtales som verifikasjon.
Påstanden skal aldri ligge foran beviset
Kontroll handler også om å kunne dokumentere at sikkerhetsmekanismer faktisk virker.
Det er ikke nok å si at noe er sikkert fordi det ble kontrollert én gang.
Et eksempel er sikkerhetsproblemet som teknisk kalles TOCTOU – Time of Check to Time of Use.
TOCTOU beskriver risikoen for at et objekt som er korrekt når det kontrolleres, kan bli endret eller byttet ut før det faktisk brukes.
Derfor er ikke spørsmålet bare:
Var det kontrollerte objektet riktig da kontrollen ble utført?
Vi må også spørre:
Kan en uautorisert bruker eller prosess bytte ut det kontrollerte objektet mellom kontroll og bruk?
Denne typen spørsmål er en viktig del av hvordan sikkerhet må vurderes når digitale systemer får rett til å utføre reelle handlinger.
Påstanden skal aldri ligge foran beviset.
Kontroll gjennom hele kjeden
De åtte stegene er ikke bare en illustrasjon av arbeidsflyten. De viser et grunnleggende prinsipp i BWW Agent Framework:
Ansvar og kontroll skal følge arbeidet helt frem til den faktiske handlingen og resultatet.
Det betyr blant annet at systemet kan skille mellom:
å få et oppdrag
å utføre arbeid
å foreslå en handling
å godkjenne handlingen
å autorisere den
å utføre den
og å kontrollere resultatet
Disse forskjellene er viktige når digitale medarbeidere skal gjøre mer enn å produsere tekst i en chat.
Fra AI som svarer til AI som arbeider
En vanlig AI-chat kan gi et svar.
Når AI skal utføre arbeid på vegne av en virksomhet, oppstår et annet behov.
Arbeidet må kunne styres, kontrolleres, godkjennes, autoriseres og etterprøves.
Det er denne overgangen BWW Agent Framework er bygget for:
fra digital assistanse til kontrollert digitalt arbeid.
Hvorfor så mange steg?
Fordi reelt arbeid har konsekvenser.
Når AI bare gir et forslag til et menneske, kan mennesket selv kontrollere hva som skjer videre.
Når digitale medarbeidere skal arbeide mot virkelige systemer, blir kravene annerledes.
Da trenger virksomheten kontroll over blant annet:
hvem som utfører arbeidet, hva som er godkjent, hva som er autorisert, hva som faktisk ble gjort og hva resultatet ble.
BWW Agent Framework er utviklet rundt denne forskjellen.
