Från OpenClaw till NemoClaw: Utvecklingen av AI-agentansvar

Av Carole Achramowicz, Vice vd, produktmarknadsföring

Vi befinner oss mitt i det största teknologiska skiftet sedan ChatGPT, och det har redan börjat revolutionera allt från hur vi hanterar våra dagliga kalendrar och spårar nyheter, till de grundläggande sätten som arbete utförs. I sitt senaste GTC-anförande beskrev NVIDIAs VD Jensen Huang detta teknologiska språng som en övergång från en värld av "Assisted AI", där modeller föreslår innehåll eller kod, till en värld av "Agentic AI", där autonoma agenter självständigt utför komplexa uppgifter över företagssystem.

Och denna förändring sker med en aldrig tidigare skådad hastighet. Under vår senaste tid Jitterbit Benchmarkrapport för AI-automation, fann vi att endast 1.6 % av respondenterna inte har några AI-agenter utplacerade. För de med agentutplaceringar förväntas antalet agenter öka med i genomsnitt 43 % under det kommande året – och andelen respondenter med massiva utplaceringar av fler än 100 agenter förväntas mer än fördubblas.

Denna meteorartade tillväxt av dessa agenter har lett till oro kring agentspridning och agenthantering, vilket har sporrat branschens entusiasm kring ramverk som OpenClaw (ett system med öppen källkod som kan ansluta meddelandeappar som What)sApp eller Discord till autonoma agenter som körs på en användares maskin.)

Men även om övergången från agentkapacitet till agenthantering är viktig, krävs ett mer framåtblickande tillvägagångssätt i takt med att organisationer övergår från AI-pilotprojekt till fullskalig verksamhet.

Vändpunkten: Från slutsats till handlingskraft

Traditionella AI-modeller fokuserar främst på inferens, eller tolkning av data och stöd för mänskliga beslut. Agentisk AI, å andra sidan, förändrar fundamentalt programvarans roll: Istället för att människor direkt manipulerar verktyg, blir applikationer miljöer där agenter agerar å användarens vägnar.

Detta representerar ett enormt språng vad gäller funktioner: Det öppnar upp möjligheten att omvandla stora språkmodeller till autonoma aktörer som kan navigera i applikationer och koordinera arbetsflöden över olika datakällor. Men det ökar också risken och öppnar dörren för regelöverträdelser, agenter som fastnar i loopar, behörighetskryp och mer. Ansvarsfulla, framtidssäkra implementeringar kräver att vi utökar vår strategi till att inkludera de grundläggande kraven på förtroende, kontroll och ansvarsskyldighet.

Varför säkerhetslager och styrning är viktiga

När Huang introducerade NemoClaw, NVIDIAs programvarupaket och plugin som lägger till sandboxing i företagsklass och policydrivna kontroller till OpenClaw, beskrev han det nya erbjudandet som ett sätt att låta juridiktekniker interagera med programvara genom "datoranvändnings"-funktioner. Detta öppnar dörren för AI att driva webbläsare och applikationer precis som människor gör.

Denna övergång representerar ett kritiskt vägskäl för moderna företag, enligt Jitterbit VD Bill Conner:

"Vi ser en av de snabbaste och mest monumentala teknologiska vändpunkterna sedan ChatGPT: skiftet från AI som antyder att AI handlingarOpenClaw accelererade den övergången, men med den kraften kommer en verklig risk. I sin råa form saknar dessa ramverk en inneboende säkerhetsmodell. I en företagsmiljö är det inte bara en lucka, det är en belastning.”

I takt med att AI-agenter får möjlighet att röra sig dynamiskt över system och jurisdiktionsgränser blir utmaningarna kring datasuveränitet och ansvarsskyldighet alltmer brådskande. Det är därför Jitterbit förespråkar en "lagerbaserad" strategi för AI. Genom att omsluta agentramverk med ett lager av robust infrastruktur, skyddsräcken och policytillämpning kan företag dra nytta av AI:s effektivitet utan att kompromissa med kontrollen.

Enligt Jitterbit Teknisk chef Manoj Chaudhary, NVIDIAs senaste erbjudande, föreslår en enorm förändring i hur AI-agenter tillåts arbeta. ”Införandet av NemoClaw återspeglar en bredare insikt inom branschen: Agentbaserad AI behöver en grund i företagsklass. Vi rör oss mot 'AI-operativsystem' – plattformar som inte bara möjliggör intelligens, utan också styr hur den intelligensen beter sig. Detta är öppen innovation i utkanten, med strukturerad styrning ovanpå.”

Går mot agent-som-en-tjänst

En säker demokratisering av dataåtkomst, sa Conner, kräver två grundläggande element: mänsklig tillsyn och tekniska skyddsräcken.

"I takt med att agenter blir mer autonoma blir det svårare att definiera ansvarsskyldighet inom AI. När en agent agerar självständigt måste ansvaret fortfarande tydligt tilldelas systemet, organisationen och i slutändan mänsklig tillsyn. Skyddsräcken måste utvecklas från enkla policykontroller till dynamiska, verkställbara begränsningar som är direkt inbäddade i hur agenter arbetar."

Med andra ord, även om tillvägagångssättet ”implementera nu och ställ frågor senare” kanske har fört oss så här långt, blir det allt tydligare att det inte kommer att ta oss dit vi faktiskt behöver vara. I kapplöpningen mot agentimplementering kommer de företag som slutligen korsar mållinjen inte att vara de med de mest kraftfulla agenterna, utan de mest ansvarig sådana.

I takt med att AI-agenter fortsätter att utvecklas till ryggraden i företagsverksamheten – mot en framtid som Huang beskriver som ”AI för allt” – måste samtalet fortsätta att flyttas från AI-agenter kapacitet till AI-agent ansvarDet yttersta målet är att säkerställa att agenter inte bara är kraftfulla, utan också säkra, efterlevande och integrerade i affärsverksamheten.