Van OpenClaw naar NemoClaw: de evolutie van de verantwoordingsplicht van AI-agenten

Door Carole Achramowicz, Vice-president, productmarketing

We bevinden ons midden in de grootste technologische verschuiving sinds ChatGPT, en deze heeft al een revolutie teweeggebracht in alles, van de manier waarop we onze dagelijkse agenda's beheren en het nieuws volgen, tot de fundamentele manier waarop werk wordt gedaan. In zijn recente keynote op GTC beschreef NVIDIA CEO Jensen Huang deze technologische sprong als een overgang van een wereld van 'Assisted AI', waar modellen content of code suggereren, naar een wereld van 'Agentic AI', waar autonome agenten zelfstandig complexe taken uitvoeren binnen bedrijfssystemen.

En deze verschuiving vindt plaats met een ongekende snelheid. In onze recente Jitterbit Benchmarkrapport AI-automatiseringWe ontdekten dat slechts 1.6% van de respondenten geen AI-agenten heeft ingezet. Voor degenen die wel agenten inzetten, zal het aantal agenten naar verwachting met gemiddeld 43% toenemen in het komende jaar. Het percentage respondenten met grootschalige implementaties van meer dan 100 agenten zal zelfs meer dan verdubbelen.

Deze razendsnelle groei van het aantal agents heeft geleid tot bezorgdheid over de wildgroei aan agents en het beheer ervan, wat de industrie enthousiast heeft gemaakt over frameworks zoals OpenClaw (een open-source systeem dat berichtenapps zoals What met elkaar kan verbinden).sAp(of Discord naar autonome agenten die op de computer van een gebruiker draaien.)

Hoewel de verschuiving van agentfunctionaliteit naar agentmanagement belangrijk is, is er, naarmate organisaties de overgang maken van AI-pilots naar grootschalige implementaties, een meer toekomstgerichte aanpak nodig.

Het omslagpunt: van gevolgtrekking naar handelingsvermogen

Traditionele AI-modellen richten zich voornamelijk op inferentie, oftewel het interpreteren van data en het ondersteunen van menselijke beslissingen. Agentische AI ​​daarentegen verandert de rol van software fundamenteel: in plaats van dat mensen direct tools manipuleren, worden applicaties omgevingen waarin agents namens de gebruiker opereren.

Dit betekent een enorme sprong voorwaarts qua mogelijkheden: het maakt het mogelijk om grote taalmodellen om te zetten in autonome actoren die in staat zijn applicaties te navigeren en workflows te coördineren over verschillende databronnen. Maar het vergroot ook de risico's, waardoor de deur openstaat voor schendingen van de regelgeving, agents die vastlopen in oneindige lussen, ongecontroleerde toegang tot machtigingen en meer. Verantwoorde, toekomstbestendige implementaties vereisen dat we onze aanpak uitbreiden met de fundamentele vereisten van vertrouwen, controle en verantwoording.

Waarom beveiligingslagen en governance belangrijk zijn

Bij de introductie van NemoClaw, NVIDIA's softwarepakket en plug-in die sandboxing en beleidsgestuurde controle op bedrijfsniveau toevoegt aan OpenClaw, beschreef Huang het nieuwe aanbod als een manier om LLM's (Learning Learning Machines) te laten interageren met software via "computergebruik"-functionaliteiten. Dit opent de deur voor AI om browsers en applicaties te bedienen zoals mensen dat doen.

Deze overgang vormt volgens ons een cruciaal keerpunt voor de moderne onderneming. Jitterbit CEO Bill Conner:

“We zien een van de snelste en meest ingrijpende technologische omslagpunten sinds ChatGPT: de verschuiving van AI die suggesties doet naar AI die HandelingenOpenClaw heeft die transitie versneld, maar met die kracht komen ook reële risico's. In hun ruwe vorm missen deze frameworks een inherent beveiligingsmodel. In een bedrijfsomgeving is dat niet alleen een tekortkoming, maar een risico."

Naarmate AI-agenten steeds beter in staat zijn zich dynamisch te verplaatsen tussen systemen en jurisdictiegrenzen, worden de uitdagingen op het gebied van datasoevereiniteit en verantwoording steeds urgenter. Daarom Jitterbit pleit voor een 'gelaagde' aanpak van AI. Door agentframeworks te omhullen met een laag robuuste infrastructuur, vangrails en beleidshandhaving, kunnen bedrijven profiteren van de efficiëntie van AI zonder de controle uit het oog te verliezen.

Think Jitterbit CTO Manoj Chaudhary van NVIDIA zegt dat hun nieuwste product een grote verandering teweegbrengt in de manier waarop AI-agenten mogen opereren. "De introductie van NemoClaw weerspiegelt een breder besef binnen de industrie: AI-agenten hebben een bedrijfsbrede basis nodig. We bewegen ons richting 'AI-besturingssystemen' – platforms die niet alleen intelligentie mogelijk maken, maar ook bepalen hoe die intelligentie zich gedraagt. Dit is open innovatie aan de rand van het netwerk, met gestructureerd beheer erbovenop."

Op weg naar Agent-as-a-Service

Volgens Conner vereist de veilige democratisering van de toegang tot gegevens twee fundamentele elementen: menselijk toezicht en technologische waarborgen.

"Naarmate AI-systemen autonomer worden, wordt het lastiger om de verantwoordelijkheid hiervoor te definiëren. Wanneer een systeem zelfstandig handelt, moet de verantwoordelijkheid nog steeds duidelijk worden toegewezen aan het systeem, de organisatie en uiteindelijk aan menselijk toezicht. De vangrails moeten evolueren van eenvoudige beleidscontroles naar dynamische, afdwingbare beperkingen die direct zijn ingebed in de manier waarop systemen werken."

Met andere woorden, hoewel de aanpak "nu implementeren en later vragen stellen" ons tot nu toe misschien wel heeft gebracht, wordt het steeds duidelijker dat we hiermee niet komen waar we daadwerkelijk moeten zijn. In de race naar de adoptie van agentgebaseerde systemen zullen de bedrijven die uiteindelijk de finish halen niet degenen zijn met de krachtigste agents, maar degenen met de meest geavanceerde systemen. verantwoordelijk degenen.

Naarmate AI-agenten zich verder ontwikkelen tot de ruggengraat van bedrijfsprocessen – op weg naar een toekomst die Huang omschrijft als "AI voor alles" – moet het gesprek zich blijven verplaatsen van AI-agent naar AI-agent. mogelijkheden naar AI-agent verantwoordingHet uiteindelijke doel is ervoor te zorgen dat agenten niet alleen krachtig, maar ook veilig, conform de regelgeving en geïntegreerd in de bedrijfsvoering zijn.