Fra OpenClaw til NemoClaw: Udviklingen af ​​AI-agentansvarlighed

af Carole Achramowicz, Vicepræsident, produktmarkedsføring

Vi er midt i det største teknologiske skift siden ChatGPT, og det har allerede begyndt at revolutionere alt fra den måde, vi administrerer vores daglige kalendere og holder styr på nyhederne, til de grundlæggende måder, arbejdet udføres på. I sin nylige GTC-hovedtale beskrev NVIDIAs administrerende direktør, Jensen Huang, dette teknologiske spring som et skridt fra en verden af ​​"Assisted AI", hvor modeller foreslår indhold eller kode, til en verden af ​​"Agentic AI", hvor autonome agenter uafhængigt udfører komplekse opgaver på tværs af virksomhedssystemer.

Og dette skift sker med en hidtil uset hastighed. I vores seneste Jitterbit Benchmarkrapport for AI-automatisering, fandt vi ud af, at kun 1.6 % af respondenterne ikke har nogen AI-agenter implementeret. For dem med agentimplementeringer forventes antallet af agenter at stige med gennemsnitligt 43 % i løbet af det kommende år – hvor andelen af ​​respondenter med massive agentimplementeringer på over 100 forventes at mere end fordobles.

Denne meteoragtige vækst i disse agenter har ført til bekymringer om agentspredning og agentstyring, hvilket har ansporet branchens begejstring omkring frameworks som OpenClaw (et open source-system, der er i stand til at forbinde beskedapps som What)sApp eller Discord til autonome agenter, der kører på en brugers maskine.)

Men selvom skiftet fra agentkapacitet til agentstyring er vigtigt, er der behov for en mere fremadrettet tilgang i takt med at organisationer overgår fra AI-pilotprojekter til fuldskaladrift.

Vippepunktet: Fra inferens til handlekraft

Traditionelle AI-modeller fokuserer primært på inferens, eller fortolkning af data og understøttelse af menneskelige beslutninger. Agentisk AI ændrer derimod fundamentalt softwarens rolle: I stedet for at mennesker direkte manipulerer værktøjer, bliver applikationer miljøer, hvor agenter opererer på brugerens vegne.

Dette repræsenterer et enormt spring med hensyn til muligheder: Det åbner op for muligheden for at omdanne store sprogmodeller til autonome aktører, der er i stand til at navigere i applikationer og koordinere arbejdsgange på tværs af forskellige datakilder. Men det forstørrer også risikoen og åbner døren for overtrædelser af regler, agenter, der sidder fast i loops, tilladelsesforskelle og meget mere. Ansvarlige, fremtidssikrede implementeringer kræver, at vi udvider vores tilgang til at omfatte de grundlæggende krav om tillid, kontrol og ansvarlighed.

Hvorfor sikkerhedslag og styring er vigtige

Da Huang introducerede NemoClaw, NVIDIAs softwarestak og plugin, der tilføjer sandboxing i virksomhedsklasse og politikdrevne kontroller til OpenClaw, beskrev han det nye tilbud som en måde, der giver LLM'er mulighed for at interagere med software gennem "computerbrugs"-funktioner. Dette åbner døren for, at AI kan betjene browsere og applikationer ligesom mennesker gør.

Denne overgang repræsenterer en kritisk korsvej for moderne virksomheder, ifølge Jitterbit Administrerende direktør Bill Conner:

"Vi ser et af de hurtigste og mest monumentale teknologiske vendepunkter siden ChatGPT: skiftet fra AI, der antyder, at AI..." handlingerOpenClaw accelererede den overgang, men med den styrke følger en reel risiko. I sin rå form mangler disse frameworks en iboende sikkerhedsmodel. I et virksomhedsmiljø er det ikke bare et hul, det er en belastning.”

Efterhånden som AI-agenter får mulighed for at bevæge sig dynamisk på tværs af systemer og jurisdiktionsgrænser, bliver udfordringerne med datasuverænitet og ansvarlighed stadig mere presserende. Derfor Jitterbit går ind for en "lagdelt" tilgang til AI. Ved at indpakke agentframeworks med et lag af robust infrastruktur, beskyttelsesrækværk og håndhævelse af politikker kan virksomheder udnytte effektiviteten af ​​AI uden at gå på kompromis med kontrollen.

Ifølge Jitterbit CTO Manoj Chaudhary, NVIDIAs nyeste tilbud, antyder en radikal ændring i den måde, AI-agenter får lov til at operere på. "Introduktionen af ​​NemoClaw afspejler en bredere erkendelse i branchen: Agentisk AI har brug for et fundament i virksomhedsklassen. Vi bevæger os mod 'AI-operativsystemer' - platforme, der ikke kun muliggør intelligens, men også styrer, hvordan denne intelligens opfører sig. Dette er åben innovation i udkanten af ​​markedet med struktureret styring ovenpå."

Bevæger sig mod agent-som-en-service

Conner sagde, at den sikre demokratisering af dataadgang kræver to grundlæggende elementer: menneskeligt tilsyn og teknologiske rækværk.

"Efterhånden som agenter bliver mere autonome, bliver det sværere at definere AI-ansvarlighed. Når en agent handler uafhængigt, skal ansvaret stadig tydeligt tildeles systemet, organisationen og i sidste ende menneskeligt tilsyn. Guardrails skal udvikle sig fra simple politikkontroller til dynamiske, håndhævelige begrænsninger, der er direkte indlejret i, hvordan agenter fungerer."

Med andre ord, selvom tilgangen med at "implementer nu og stil spørgsmål senere" måske har bragt os så langt, bliver det stadig tydeligere, at den ikke vil føre os derhen, hvor vi rent faktisk skal være. I kapløbet om agentimplementering vil de virksomheder, der i sidste ende krydser målstregen, ikke være dem med de mest magtfulde agenter, men de mest ansvarlig dem.

Efterhånden som AI-agenter fortsætter med at udvikle sig til rygraden i virksomhedens drift – mod en fremtid, som Huang beskriver som "AI til alt" – skal samtalen fortsætte med at skifte fra AI-agenter kapaciteter til AI-agent ansvarlighedDet endelige mål er at sikre, at agenter ikke blot er stærke, men også sikre, overholder reglerne og er integreret i forretningsdriften.