Fra OpenClaw til NemoClaw: Utviklingen av ansvarlighet for AI-agenter

Av Carole Achramowicz, Visepresident, produktmarkedsføring

Vi er midt i det største teknologiske skiftet siden ChatGPT, og det har allerede begynt å revolusjonere alt fra måten vi administrerer våre daglige kalendere og sporer nyheter på, til de grunnleggende måtene arbeidet blir gjort på. I sin nylige GTC-hovedtale beskrev NVIDIA-sjef Jensen Huang dette teknologiske spranget som en overgang fra en verden av «Assisted AI», der modeller foreslår innhold eller kode, til en verden av «Agentic AI», der autonome agenter uavhengig utfører komplekse oppgaver på tvers av bedriftssystemer.

Og dette skiftet skjer med en enestående hastighet. I vår nylige Jitterbit Benchmarkrapport for AI-automatisering, fant vi ut at bare 1.6 % av respondentene ikke har noen AI-agenter utplassert. For de med agentutplasseringer, forventes antallet agenter å øke med gjennomsnittlig 43 % i løpet av det kommende året – med andelen respondenter med massive utplasseringer på over 100 agenter forventet å mer enn dobles.

Denne meteorveksten i disse agentene har ført til bekymringer om agentspredning og agentadministrasjon, noe som har ansporet bransjens begeistring rundt rammeverk som OpenClaw (et åpen kildekode-system som er i stand til å koble sammen meldingsapper som What)sApp eller Discord til autonome agenter som kjører på en brukers maskin.)

Men selv om overgangen fra agentkapasitet til agentadministrasjon er viktig, kreves det en mer fremtidsrettet tilnærming etter hvert som organisasjoner går over fra AI-pilotprosjekter til fullskala drift.

Vippepunktet: Fra slutning til handlekraft

Tradisjonelle AI-modeller fokuserer primært på inferens, eller tolkning av data og støtte menneskelige beslutninger. Agentisk AI, derimot, endrer fundamentalt programvarens rolle: I stedet for at mennesker direkte manipulerer verktøy, blir applikasjoner miljøer der agenter opererer på brukerens vegne.

Dette representerer et enormt sprang når det gjelder funksjoner: Det åpner for muligheten til å gjøre store språkmodeller om til autonome aktører som er i stand til å navigere i applikasjoner og koordinere arbeidsflyter på tvers av ulike datakilder. Men det forstørrer også risikoen, og åpner døren for brudd på samsvar, agenter som setter seg fast i løkker, tillatelseskryp og mer. Ansvarlige, fremtidssikre implementeringer krever at vi utvider tilnærmingen vår til å inkludere de grunnleggende kravene til tillit, kontroll og ansvarlighet.

Hvorfor sikkerhetslag og styring er viktige

Da Huang introduserte NemoClaw, NVIDIAs programvarepakke og plugin som legger til sandkassefunksjoner i bedriftsklassen og policydrevne kontroller til OpenClaw, beskrev han det nye tilbudet som en måte å la LLM-er samhandle med programvare gjennom "datamaskinbruk"-funksjoner. Dette åpner døren for at AI kan betjene nettlesere og applikasjoner akkurat som mennesker gjør.

Denne overgangen representerer et kritisk veiskille for moderne bedrifter, ifølge Jitterbit Administrerende direktør Bill Conner:

«Vi ser et av de raskeste og mest monumentale teknologiske vendepunktene siden ChatGPT: skiftet fra AI som antyder at AI handlingerOpenClaw akselererte den overgangen, men med den kraften følger en reell risiko. I sin rå form mangler disse rammeverkene en iboende sikkerhetsmodell. I et bedriftsmiljø er det ikke bare et gap, det er en ulempe.»

Etter hvert som AI-agenter får muligheten til å bevege seg dynamisk på tvers av systemer og jurisdiksjonsgrenser, blir utfordringene knyttet til datasuverenitet og ansvarlighet stadig mer presserende. Derfor Jitterbit taler for en «lagdelt» tilnærming til AI. Ved å pakke agentrammeverk inn i et lag med robust infrastruktur, rekkverk og håndheving av retningslinjer, kan bedrifter utnytte effektiviteten til AI uten å gå på kompromiss med kontrollen.

Ifølge Jitterbit Teknisk direktør Manoj Chaudhary, NVIDIAs nyeste tilbud, antyder en enorm endring i måten AI-agenter får lov til å operere på. «Innføringen av NemoClaw gjenspeiler en bredere erkjennelse i bransjen: Agentisk AI trenger et fundament på bedriftsnivå. Vi beveger oss mot 'AI-operativsystemer' – plattformer som ikke bare muliggjør intelligens, men som også kontrollerer hvordan denne intelligensen oppfører seg. Dette er åpen innovasjon i utkanten, med strukturert styring lagt oppå.»

Beveger seg mot agent-som-en-tjeneste

Conner sa at en sikker demokratisering av datatilgang krever to grunnleggende elementer: menneskelig tilsyn og teknologiske rekkverk.

«Etter hvert som agenter blir mer autonome, blir det vanskeligere å definere ansvarlighet knyttet til kunstig intelligens. Når en agent opptrer uavhengig, må ansvaret fortsatt tydelig tildeles systemet, organisasjonen og til syvende og sist menneskelig tilsyn. Guardrails må utvikle seg fra enkle policykontroller til dynamiske, håndhevbare begrensninger som er direkte integrert i hvordan agenter opererer.»

Med andre ord, selv om «implementer nå og still spørsmål senere»-tilnærmingen kanskje har ført oss så langt, blir det stadig tydeligere at den ikke vil ta oss dit vi faktisk trenger å være. I kappløpet om agentbasert adopsjon vil ikke bedriftene som til slutt krysser målstreken være de med de mektigste agentene, men de mest ansvarlig seg.

Etter hvert som AI-agenter fortsetter å utvikle seg til ryggraden i bedriftsdriften – mot en fremtid som Huang beskriver som «AI for alt» – må samtalen fortsette å skifte fra AI-agenter evner til AI-agent ansvarlighetDet endelige målet er å sikre at agentene ikke bare er mektige, men også trygge, i samsvar med regelverket og integrert i forretningsdriften.