Da OpenClaw a NemoClaw: l'evoluzione della responsabilità degli agenti IA

Di Carole Achramowicz, Vicepresidente, Marketing di prodotto

Ci troviamo nel bel mezzo della più grande trasformazione tecnologica dai tempi di ChatGPT, e ha già iniziato a rivoluzionare ogni aspetto della nostra vita, dalla gestione dei calendari quotidiani e il monitoraggio delle notizie, fino alle modalità fondamentali con cui svolgiamo il lavoro. Nel suo recente intervento al GTC, il CEO di NVIDIA, Jensen Huang, ha descritto questo salto tecnologico come il passaggio da un mondo di "IA assistita", in cui i modelli suggeriscono contenuti o codice, a un mondo di "IA agente", in cui agenti autonomi eseguono in modo indipendente compiti complessi all'interno dei sistemi aziendali.

E questo cambiamento sta avvenendo con una velocità senza precedenti. Nel nostro recente Jitterbit Rapporto di riferimento sull'automazione dell'intelligenza artificialeAbbiamo scoperto che solo l'1.6% degli intervistati non ha agenti di intelligenza artificiale implementati. Per coloro che hanno implementazioni di agenti, il numero di agenti è destinato ad aumentare in media del 43% nel corso del prossimo anno, con la percentuale di intervistati con implementazioni massicce, con oltre 100 agenti, destinata a più che raddoppiare.

Questa crescita fulminea di questi agenti ha portato a preoccupazioni sulla proliferazione degli agenti e sulla gestione degli agenti, stimolando l'entusiasmo del settore attorno a framework come OpenClaw (un sistema open source in grado di connettere app di messaggistica come WhatsAp(p o Discord per agenti autonomi in esecuzione sulla macchina di un utente.)

Sebbene il passaggio dalle capacità degli agenti alla gestione degli agenti sia importante, man mano che le organizzazioni passano dai progetti pilota di IA alle operazioni su vasta scala, è necessario un approccio più lungimirante.

Il punto di svolta: dall'inferenza all'azione

I modelli di IA tradizionali si concentrano principalmente sull'inferenza, ovvero sull'interpretazione dei dati e sul supporto alle decisioni umane. L'IA agentica, d'altro canto, cambia radicalmente il ruolo del software: anziché essere gli esseri umani a manipolare direttamente gli strumenti, le applicazioni diventano ambienti in cui gli agenti operano per conto dell'utente.

Questo rappresenta un enorme passo avanti in termini di capacità: sblocca la possibilità di trasformare modelli linguistici complessi in attori autonomi in grado di navigare tra applicazioni e coordinare flussi di lavoro tra fonti di dati eterogenee. Tuttavia, amplifica anche il rischio, aprendo la porta a violazioni della conformità, agenti bloccati in cicli infiniti, abuso dei permessi e altro ancora. Implementazioni responsabili e a prova di futuro richiedono un ampliamento del nostro approccio, che includa i requisiti fondamentali di fiducia, controllo e responsabilità.

Perché i livelli di sicurezza e la governance sono importanti

Nel presentare NemoClaw, lo stack software e il plugin di NVIDIA che aggiungono sandboxing di livello enterprise e controlli basati su policy a OpenClaw, Huang ha descritto la nuova offerta come un modo per consentire ai LLM di interagire con il software attraverso funzionalità di "utilizzo del computer". Ciò apre la strada all'intelligenza artificiale per utilizzare browser e applicazioni proprio come farebbero gli esseri umani.

Questa transizione rappresenta un crocevia critico per l'impresa moderna, secondo Jitterbit Amministratore delegato Bill Conner:

“Stiamo assistendo a uno dei punti di svolta tecnologici più rapidi e monumentali dai tempi di ChatGPT: il passaggio dall'IA che suggerisce all'IA che attiOpenClaw ha accelerato questa transizione, ma con questo potere arriva un rischio reale. Nella sua forma grezza, questi framework mancano di un modello di sicurezza intrinseco. In un ambiente aziendale, questo non è solo una lacuna, è una responsabilità."

Man mano che gli agenti di intelligenza artificiale acquisiscono la capacità di muoversi dinamicamente attraverso sistemi e confini giurisdizionali, le sfide della sovranità dei dati e della responsabilità diventano sempre più urgenti. Ecco perché Jitterbit sostiene un approccio "a strati" all'IA. Avvolgendo i framework degli agenti con uno strato di infrastrutture robuste, meccanismi di controllo e applicazione delle policy, le aziende possono sfruttare l'efficienza dell'IA senza compromettere il controllo.

Secondo Jitterbit Secondo Manoj Chaudhary, CTO di NVIDIA, la nuova offerta di NemoClaw suggerisce un cambiamento epocale nel modo in cui gli agenti di intelligenza artificiale possono operare. "L'introduzione di NemoClaw riflette una più ampia consapevolezza del settore: l'IA agente ha bisogno di una base di livello enterprise. Ci stiamo muovendo verso 'sistemi operativi per l'IA', piattaforme che non solo abilitano l'intelligenza, ma ne controllano anche il comportamento. Si tratta di innovazione aperta all'edge, con una governance strutturata sovrapposta."

Verso il modello Agent-as-a-Service

La democratizzazione sicura dell'accesso ai dati, ha affermato Conner, richiede due elementi fondamentali: la supervisione umana e le garanzie tecnologiche.

“Con l'aumentare dell'autonomia degli agenti, diventa più difficile definire la responsabilità dell'IA. Quando un agente agisce in modo indipendente, la responsabilità deve comunque essere chiaramente attribuita al sistema, all'organizzazione e, in ultima analisi, alla supervisione umana. I meccanismi di controllo devono evolversi da semplici controlli basati su policy a vincoli dinamici e vincolanti, integrati direttamente nel funzionamento degli agenti.”

In altre parole, mentre l'approccio "implementa ora e fai domande dopo" potrebbe averci portato fin qui, sta diventando sempre più chiaro che non ci porterà dove dobbiamo effettivamente arrivare. Nella corsa all'adozione degli agenti, le imprese che alla fine taglieranno il traguardo non saranno quelle con gli agenti più potenti, ma quelle con gli agenti più potenti. responsabile quelli.

Mentre gli agenti IA continuano ad evolversi fino a diventare la spina dorsale delle operazioni aziendali — verso un futuro che Huang descrive come "IA per tutto" — la conversazione deve continuare a spostarsi dagli agenti IA funzionalità all'agente IA responsabilitàL'obiettivo finale è garantire che gli agenti non siano solo potenti, ma anche sicuri, conformi alle normative e integrati nel tessuto delle operazioni aziendali.