Af Maneeza Malik, Produkt Marketing Direktør
Agentic AI Det skaber en hurtigere omstrukturering af forretningsdriften, end styringen kan følge med. Virksomheder i alle industrier bevæger sig fra førerassistentsystemer og chatbots mod autonome AI-agenter, der opererer i produktionsmæssig skala. Dette vil kræve en grundlæggende ændring af virksomhedens risikostyring, styring og kontrol.
Gartner Forventningen er, at i 2028 vil de gennemsnitlige virksomheder på Fortune 500-listen have implementeret mere end 150.000 AI-agenter på tværs af forretningsfunktioner. Samtidig advarer Gartner om, at organisationer – især dem, der håndterer følsomme data, komplekse forsyningskæder eller strenge compliance-rammer – ikke er tilstrækkeligt forberedte på den kompleksitet inden for styring, sikkerhed, compliance og drift, som implementering af store mængder AI-agenter medfører.
For virksomhedsledere skaber dette en ny virkelighed. Hver AI-agent bliver en digital aktør, der interagerer med de centrale forretningssystemer. Hver ny agent udvider virksomhedens angrebsflade. Hver autonom arbejdsgang introducerer nye operationelle, sikkerheds- og reguleringsrisici.
Derfor kan agentisk AI ikke behandles som endnu et AI-initiativ eller endnu et lag i teknologistakken. Det kræver styring, identitet, sikkerhed, observerbarhed og compliance-kontroller, der er integreret på tværs af hele virksomheden.
Hvordan Agentic AI ændrer virksomhedens risikomodell
Traditionelle AI-systemer udførte typisk nøje definerede opgaver inden for veldefinerede arbejdsprocesser, såsom klassificering af data, generering af prognoser eller anbefalinger af handlinger. Virksomhedens kontrolfunktioner var designet til at imødekomme disse begrænsede anvendelsesmuligheder, hvor mennesker eller deterministiske forretningsregler styrede den overordnede arbejdsproces og udførelsen.
Agentic AI AI-agenter kan planlægge og udføre multipeltrinnsopgaver, køre virksomhedsapplikationer og API'er, få adgang til data på tværs af systemer, koordinere med andre agenter og tilpasse deres handlinger baseret på ændrede kontekster. I stedet for at understøtte en enkelt opgave kan de styre hele forretningsprocesser.
Når AI-agenter bliver aktive deltagere i virksomhedens drift, udvides virksomhedens risikomodell. Organisationer skal styre ikke kun AI-modellen, men også hver enkelt agents identitet, tilladelser, værktøjsadgang, beslutningsgrænser, dataadgang og kørselstilstande i hele dens livscyklus.
Dette indfører tre væsentlige ændringer:
- Beslutningsgrænser bliver mindre eksplicitte. Når agenter udfører stadig mere komplekse arbejdsgange, har organisationer brug for klare retningslinjer, der definerer, hvornår en agent kan handle selvstændigt, hvornår menneskelig godkendelse er påkrævet, og hvordan beslutninger overvåges, styres og revideres.
- Integrationer bliver en del af angrebsområdet. Agenter bruger API'er, virksomhedsapplikationer, SaaS-platforme, datakilder og eksterne tjenester til at udføre opgaver. Hver forbindelse indebærer potentielle risici relateret til godkendelse, autorisation, dataeksponering og tredjepartsafhængigheder.
- Skala bliver en styringsmæssig udfordring. Flereagtersystemer kan hurtigt vokse fra et par agenter til hundredvis eller tusindvis af agenter, der udfører specialiserede opgaver. Uden styring af AI-agentes livscyklus, lagerstyring, ejendomsforhold, politikgennemførelse og løbende overvågning risikerer virksomheder at miste overblik over, hvilke agenter der har adgang til, og hvordan de interagerer på tværs af organisationen.
Nye standarder som f.eks. Modelkontekstprotokol (MCP) vil yderligere accelerere denne tendens ved at standardisere, hvordan AI-agenter opretter forbindelse til virksomhedens værktøjer og datakilder. Efterhånden som det bliver nemmere at integrere agenter med forretningssystemer, har organisationer brug for ensartet identitet, styring, politikgennemtvingelse og køretidskontrol på tværs af enhver agentinteraktion.
Bedste praksis for implementering af AI-styring
For at håndtere disse udfordringer bør virksomheder oprette styringskoncepter, der både reducerer risikoen og gør organisationen klar til uventet adfærd fra agenter. Følgende fem bedste praksis danner grundlag for:
Reducer drift-, sikkerheds- og compliancerisici forbundet med implementering af agentbaseret AI i virksomhedsniveau.
Udvikling af beredskabsplaner for at opdage, imødegå og reagere, når AI-agenter opfører sig uventet, overtræder politikken eller oplever driftsfejl.
Bedste praksis #1: Styring af AI-agenter som digitale medarbejdere
Det første princip er simpelt: behandl enhver AI-agent som en digital medarbejder.
Hver agent bør have:
- En klart defineret rolle og formål
- Et begrænset sæt af ansvarsområder
- Princippet om mindste rettigheder
- Godkendte værktøjer og datakilder
- Klart definerede besluttende grænser
- Menneskelig kontrol, hvor det er relevant
Uden disse kontroller bliver AI-agenter uforvaltede aktører, der opererer på tværs af virksomhedens systemer.
Governance bør også være politikbaseret i stedet for manuel. Organisationer har brug for maskinlæsbare politikker, der definerer, hvad agenter har lov til at gøre, hvornår de kan handle selvstændigt og hvornår de kræver godkendelse fra en menneskelig medarbejder. Overalt i alle sektorer er AI-governance mere end blot bedste praksis – det er en nødvendighed, og det giver en kontrolfunktion, der muliggør auditabilitet, ansvarlighed og overholdelse af regler.
Bedste praksis #2: Sikre hele AI-agent-økosystemet
En almindelig fejl er udelukkende at fokusere sikkerheden på selve den store sprogmodel (LLM). I virkeligheden strækker virksomhedens angrebsflade sig langt ud over modellen, når man begynder at introducere AI-agenter. AI-agenter interagerer med:
- API'er
- Databaser
- Identitetssystemer
- Virksomhedsapplikationer og -systemer (f.eks. CRM, ERP, HR, økonomi osv.)
- Interne arbejdsgange
- Eksterne tjenester
- MCP-kompatible værktøjer
Hver forbindelse, som en AI-agent kan få adgang til, bliver en del af virksomhedens angrebsside. Når AI-agenter bliver mere autonome, skal sikkerheden strække sig ud over at beskytte de underliggende modeller og omfatte hele agentøkosystemet.
Dette omfatter identitet og adgangsstyring, autentifikation og godkendelse, API- og værktøjssikkerhed, kontrol af dataadgang og implementering af politikker for følsomme data – herunder personligt identificerbare oplysninger (PII) og fortrolige forretningsoplysninger. Kontinuerlig overvågning under driften er afgørende for at opdage uautoriseret adfærd, overtrædelser af politikker og nye trusler.
Hver handling, som en agent udfører, bør behandles som en privilegeret virksomhedstransaktion. Før adgang til data, anvendelse af et værktøj eller udførelse af en arbejdsproces bør systemet verificere identitet, validere tilladelser, implementere politik og logføre handlingen for auditabilitet. For enhver moderne virksomhed betyder sikring af agentbaseret AI at behandle AI-agenter som førsteklasses virksomhedsinformationer, der styres med samme strenge krav som medarbejdere, applikationer og tjenestekonti.
Bedste praksis #3: Implementer agentlivscyklusstyring
Det er ligetil at administrere en håndfuld AI-agenter. At administrere hundredvis eller tusindvis på tværs af forretningsenheder, miljøer, geografier og use cases er en virksomhedsgummenansvarligheds- og styringsudfordring. Uden centraliseret livscyklusstyring af agenter og de rette kontroller på plads bliver kompleksiteten hurtigt uoverskuelig.
Organisationer har brug for en centraliseret tilgang til at administrere hele agentlivscyklussen – fra provisionering og implementering til overvågning, optimering, opdateringer og afskedigelse. Ingen agent bør eksistere uden governance eller bestå uendeligt.
Livscyklusadministration for agenter bør omfatte:
- Agentlager og ejerskab
- Versions- og konfigurationsstyring
- Identitets- og adgangsstyring
- Kørselsobservérbarhed og ydeevneovervågning
- Politikgennemførelse og overholdelsesovervågning
- Revisionslogfiler og aktivitetshistorik
- Løbende evaluering og risikovurdering
- Sikker udtagningsprocedure
Uden disse funktioner mister organisationer hurtigt overblik over, hvilke agenter der findes i virksomheden (lagerstyring), hvorfor de findes (formål) og hvem der ejer dem (ejerskab, sporbarhed og ansvarlighed). Opretholdelse af denne overblik – samt den understøttende revisionshistorik – er afgørende for styring, compliance og risikostyring i enhver branche.
I mange tilfælde oprettes agenter til specifikke forretningsfunktioner eller -processer, men over tid går denne kontekst tabt. Dette skaber en risiko for uadministrerede eller “skjulte” AI-agenter sammen med usikkerheid om, hvilke systemer de har adgang til, hvordan de opfører sig, og om de fortsat opererer inden for godkendte rammer.
Observabilitet er en afgørende komponent i styringen af agenternes livscyklus. I modsætning til traditionelle applikationer træffer AI-agenter dynamiske beslutninger, anvender værktøjer og tilpasser sig ændrede kontekstforhold. Organisationer har brug for realtidsoplysninger om agentaktivitet, værktøjersage, policyovertrædelser, fejl og udførelsesveje for at kunne støtte incident response, operationel fejlfinding og compliance.
Bedste praksis #4: Definér agenters præstationsmålinger
Organisationer skal definere klare performance- og effektivitetsmål for at sikre, at AI-agenter konsekvent leverer forretningsmæssig værdi, samtidig med at de opererer inden for godkendte grænser for risiko og compliance.
Håndtering af medarbejdernes præstationer bør omfatte:
- Forretningsmæssige resultater og målepunkter for opgavesucces: Mål, om agenter opnår de tilsigtede forretningsmål og leverer den forventede værdi.
- Beslutningskvalitet og outputkonsistens: Evaluere løbende nøjagtigheden, pålideligheden og konsistensen af agenternes beslutninger og reaktioner.
- Overvågning af adfærd og politikefterlevelse: Opdag uautoriserede værktøjersage, uventede udførelsesveje eller handlinger, der er i strid med godkendte styringspolitikker.
- Detektion af model- og adfærdsdrift: Identificer ændringer i modelens ydeevne eller agenternes adfærd over tid, som kan tyde på modeldrift, problemer med datakvaliteten, behov for omgående ændringer eller utilsigtet tilpasning.
- Driftsmæssige sundheds- og menneskelige tilsynsmålinger: Overvåg tilgængelighed, ventetid, fejl, opstigningsrater og menneskelige indgreb for at sikre, at agenterne forbliver pålidelige og troværdige.
Performance management for agentiske systemer går ud over traditionel applikationsovervågning. Organisationer har brug for kontinuerlig indsigt i beslutningernes kvalitet, udførelsesveje, værktøjersage og adfærdsændringer gennem en agentes livscyklus. Afvigelser fra forventet adfærd – uanset om de skyldes modeldrift, konfigurationsændringer, udviklende data eller andre faktorer – bør udløse en struktureret gennemgang og, hvor det er relevant, menneskelig indgriben. Derfor er menneskelige involverede workflows og tilsyn fortsat en afgørende styringskontrol.
Sammen med agent-livscyklustyring udgør løbende ydeevnemåling det operationelle grundlag for styring af agent-baseret AI i virksomhedsskala.
Bedste praksis #5: Indarbejd compliance og menneskelig tilsyn i agenternes arbejdsprocesser
I enhver datadrevet organisation kan overholdelse ikke være et eksternt valideringssteg. Det skal indbygges direkte i agentdesignen, -gennemførelsen og -overvågningen.
Compliancekrav – herunder brancheforskrifter, interne politikker, standarder for auditabilitet og regler for datastyring – skal håndhæves løbende i agentworkflows. Dette inkluderer at indarbejde begrænsninger for dataudvekslingsage, jurisdiktionskontroller, beslutningssporbarhed og opbevaringskrav direkte i udførelseslogikken.
Overvågning med menneskelig deltagelse forbliver en afgørende kontrolmekanisme, men den skal anvendes selektivt og baseret på risikoen. Ikke alle handlinger kræver menneskelig deltagelse. Imidlertid bør høypotente handlinger – såsom finansieringsgodkendelser, kritiske beslutninger, der berører kunderne, omlægning af forsyningskæden eller adgang til følsomme data – udløse gennemgange af arbejdsprocesser med menneskelig deltagelse baseret på definerede risktrinier.
Tilsynet skal også være struktureret og konsekvent. Organisationer har brug for definerede opstigningsstier, godkendelsesprocesser og interventionsmekanismer, der er standardiseret på tværs af alle agenter. Dette sikrer, at menneskelig involvering er forudsigelig, auditabel og i overensstemmelse med virksomhedens risikopolitikker i stedet for ad hoc-interventioner. Indarbejdelse af compliance og menneskelig tilsyn i agenternes arbejdsprocesser er det, der muliggør skalerbarhed uden at miste kontrollen.
Sådan omsættes agentbaseret AI til handling med Jitterbit Harmony
Den udfordring, moderne virksomheder står over for, er ikke at udvikle AI-agenter, men at implementere dem med konsekvent styring, sikkerhed, overholdelse og overvågning i hybride IT-miljøer.
Jitterbit Harmony løser dette med en Enhedsløsning med AI-baseret low-code platform der samler:
- iPaaS
- App-udvikling
- API-livscyklusstyring i fuld skala
- AI-assistenter og AI-agenter
Med Harmony, kan organisationer integrere datakilder og systemer og styre komplekse arbejdsgange og agenter i stor skala – alt sammen fra én enkelt platform. Komplet sikkerhed, AI-styring, overvågning og overholdelsesfunktioner er indbygget i platformen. Dette gør det muligt for virksomheder at skalere automatiseringen samtidig med at opretholde driftskontrol, auditabilitet, reguleringsoverensstemmelse og sikkerhedskontrol.
Jitterbit Agentic AI-tjenester: Fra strategi til produktion
Jitterbit's Agentbaseret AI Professional Services teamet hjælper organisationer med at gå fra strategi til produktionsklare implementeringer af agentbaserede systemer.
Med lang erfaring inden for integration, arbejdsgangsdesign og agentbaserede arkitekturer understøtter holdet udviklingen af:
- RAG-baserede arbejdsgange
- Menneske-i-løkken-kontroller
- Sikker agentarkitektur
- Virksomhedsstyringsrammeværk
Organisationer kan fremskynde udrulningen og samtidig sikre, at agenter implementeres med passende sikkerhedsforanstaltninger, sporbarhed og operationelt tilsyn.
Begynd