I løbet af det seneste år er generativ AI gået fra chatbots til copilots og i stigende grad til AI-agenter. Dette er drevet af en hurtig stigning i kapaciteten hos store sprogmodeller (LLM'er), men modellernes ydeevne er ikke længere den eneste flaskehals. Det største innovationsområde er, hvordan man bygger systemer omkring disse modeller, der forbinder til de rigtige data og hjælper brugerne med deres faktiske arbejde.
Inden for områder som energi og undergrund afhænger nyttig AI af meget mere end blot sproggenerering.
Arbejdet inden for disse områder involverer komplekse tværfaglige data og numeriske beregninger under usikkerhed. Beslutninger træffes på baggrund af erfaring og dyb faglig viden, der anvendes gennem strenge regler og beslutningsprocesser for at minimere risikoen.
Thomas Bartholomew Grant, ledende fagekspert – Cegal.
Nyttig AI inden for disse områder er derfor meget mere end selve modellen og omfatter hele det system, der er bygget op omkring den. Det bredere system er det, vi normalt mener, når vi taler om AI-agenter.
En sprogmodel kan ikke udføre meningsfulde opgaver på egen hånd; den kan ikke hente data, udføre handlinger i eksterne systemer eller gennemføre opgaver i flere trin. Agenter ændrer dette gennem en enkel arkitektur, der omdanner modellens evner til et system, der ikke kun kan planlægge, men også handle. En AI-agent består af en model, et harness, et scaffold og et sæt værktøjer.
Figur 1: En enkel agentarkitektur, der viser, hvordan modellen, harnesset, scaffoldet og værktøjerne arbejder sammen for at forbinde brugerens hensigt med data og handlinger.
Vi kan forstå dette gennem en enkel mental model:
Modellen er hjernen. Den planlægger og beslutter, hvad der skal gøres for at løse et problem.
Værktøjerne gør det muligt for agenten at udføre handlinger og interagere med data, hvorved der sendes information tilbage til modellen, så den kan beslutte, hvad der skal gøres herefter.
Harnesset er udførelseslaget og bestemmer, hvordan agenten kalder modellen og dens værktøjer frem, samt hvornår den skal stoppe. Det sætter en deterministisk ramme for agentens handlinger.
Støttekonstruktionen former agentens adfærd og er den linse, gennem hvilken modellen ser og interagerer med data. Den omfatter yderligere kontekst, såsom agentinstruktioner eller færdigheder, som hjælper agenten med at opdele opgaver og formatere sine svar.
Begreberne »harness« og »scaffold« er nye, så definitionerne af dem er under udvikling. I denne artikel skelner jeg dog klart mellem dem, idet »harness« er enhver fastkodet, påtvunget adfærd hos agenten, mens »scaffold« er enhver instruktion eller retningslinje i naturligt sprog, som agenten kan bruge.
En agent kan bygges som et statisk AI-system, hvor værktøjerne, »harness«, »scaffold« og modellen forbliver de samme. Dette er ideelt, når man ønsker, at agenten skal være stærkt begrænset og stabil. Tænk på en kundevendt chatbot med et defineret sæt af funktioner og anvendelsesscenarier.
Den egentlige fordel ved en agent er imidlertid, at hver af disse komponenter kan udskiftes. Man kan ændre modellen, hvilke værktøjer den har adgang til, og hvordan den fungerer via harness og scaffold. Agenternes modulære opbygning betyder, at det samme system bliver dynamisk og i stand til at tilpasse sig et langt bredere spektrum af brugere og arbejdsgange. I forbindelse med forsknings- og kodningsopgaver er det ikke altid, at resultatet og vejen dertil er kendt på forhånd. At løse åbne problemer kræver fleksibilitet og udforskning af flere løsningsveje.
I et dynamisk agentsystem, hvor modellen, rammen, styringssystemet eller værktøjerne kan ændres, resulterer hver konfiguration i en agent, der adskiller sig væsentligt fra en anden. Vi bør derfor betragte agenter som midlertidige og tilpasningsdygtige grænseflader, der sammensættes til en bestemt bruger, et bestemt datasæt eller en bestemt opgave.
Udfordringen for dem, der udvikler agentsystemer, er at afgøre, hvad der skal være deterministiske, faste grænser for agenten. En enkel måde at tænke på dette er, at hvis adfærden kan beskrives som »altid« eller »aldrig«, skal den begrænses inden for rammen. Retningslinjer, der hjælper med at styre agentens adfærd inden for denne grænse, kan placeres i stilladset.
Balancen består i at sikre kontrolleret, sikker og pålidelig adfærd uden at begrænse agenten for meget. Sprogmodeller og agenter er designet til at være dynamiske, og hvis det ikke er tilladt, kan et deterministisk, regelbaseret system være mere passende. Hybride systemer er derfor interessante, fordi agenter kan koordinere, optimere og sammenkæde regelbaserede systemer, men samtidig er bedre i stand til at tilpasse sig undtagelser.
For at agenterne skal være nyttige, skal organisationerne fokusere mindre på agenten som et selvstændigt objekt og mere på det miljø, den opererer i. Grundlaget starter med at forstå, hvordan data skal organiseres og styres, hvordan agenter skal få adgang til og behandle disse data, og hvilke arbejdsgange de skal have lov til at understøtte. Disse spørgsmål er vigtige, fordi svarene på disse spørgsmål vil være forskellige for hver virksomhed, og de former kravene til sikkerhed, overholdelse af lovgivning og menneskelig validering.
1. Data
Hvis en agent ikke kan få adgang til de rigtige data, hvis dataene er dårligt organiseret, eller hvis dataene er forældede, ufuldstændige eller forkerte, kan agenten fejle på måder, der er subtile eller svære at opdage. Outputtet kan virke plausibelt, men kan være forkert eller af ringere kvalitet. Det udgør en risiko, fordi der kan træffes beslutninger på baggrund af disse agentoutputs.
Organisationer skal tænke grundigt over, hvordan de skal strukturere og styre deres interne viden, hvilket ikke kun omfatter rå data under overfladen, men også fortolkninger, faglig ekspertise, forretningsprocesser og arbejdsgange. Agenter genererer også nye data, hvilket betyder, at datastyring ligeledes bør anvendes på deres output.
Da den kontekst, der gives til agenten, påvirker resultatet, bør organisering af data være mere end blot at muliggøre personlige produktivitetsværktøjer, men en måde at forbinde teams og information på tværs af en virksomhed i stor skala. Open Knowledge Framework (OKF) forsøger at løse dette ved at oprette et sammenhængende register over organisatorisk viden i filformater, der er mere effektive for agenterne at bruge.
2. Værktøjer
Værktøjer sætter en agent i stand til at udføre handlinger og modtage data og kontekst, og uden dem er en agent begrænset. Data bør være tilgængelige og administreres sikkert via API'er og andre former for integration, der sikrer, at agenten kun kan få adgang til de rigtige data. Agenten bør ikke opbygge sin egen funktionalitet hver gang den kører, da dette vil give forskellige resultater hver gang. At stille algoritmer og genanvendelig funktionalitet til rådighed, som en agent kan kalde via værktøjer, er en langt mere sikker måde at sikre, at bestemte handlinger kan gentages.
Model Context Protocol (MCP) giver en agent en ensartet måde at finde og kalde værktøjer på, i stedet for at være afhængig af skræddersyede integrationer for hvert enkelt system. MCP er blevet det dominerende kommunikationslag mellem agenter og data.
3. Arbejdsgange
Agenter kan sammenkæde flere handlinger til et workflow for at løse en opgave, hvor modellen beslutter, hvilke værktøjer der skal kaldes, og i hvilken rækkefølge. For eksempel kan en agent hente data fra flere kilder og udføre beregninger som en del af en end-to-end-opgave. Dette betyder dog også, at små fejl tidligt i workflowet kan forstærke hinanden og føre til endelige resultater, der virker sikre, men som er upålidelige. At dokumentere, hvordan arbejdet skal udføres, kan også være med til at strukturere agentens adfærd. Arbejdsgange kan tilføjes til rammen, stilles til rådighed som styringsmateriale, som agenten kan få adgang til inden for rammen, eller implementeres som regelbaserede systemer, der kan kaldes op, inden for værktøjerne.
I denne artikel har vi set på, hvordan udformningen af systemer baseret på AI påvirker, hvor effektive de kan være til at hjælpe brugerne. Modeludbydere og generiske agent-harness-produkter som dem fra Anthropic og OpenAI er yderst kraftfulde. De skal dog tilpasses energisektoren, så agenterne kan få adgang til de rigtige data, behandle dem med de rigtige værktøjer og tilpasse agenternes adfærd til brugernes arbejdsgange. Agenter bør ikke betragtes som moduler, der blot skal boltes fast på eksisterende software, men som et nyt lag, hvorigennem vi arbejder med de data, produkter og den domæneviden, vi allerede har.