D'OpenClaw à NemoClaw : l'évolution de la responsabilité des agents IA

Par Carole Achramowicz, Vice-président, Marketing produit

Nous vivons actuellement la plus grande mutation technologique depuis ChatGPT, et elle a déjà commencé à révolutionner de nombreux aspects de notre vie, de la gestion de nos agendas et du suivi de l'actualité aux méthodes de travail les plus fondamentales. Lors de sa récente conférence GTC, Jensen Huang, PDG de NVIDIA, a décrit ce bond technologique comme le passage d'un monde d'« IA assistée », où des modèles suggèrent du contenu ou du code, à un monde d'« IA agentive », où des agents autonomes exécutent indépendamment des tâches complexes au sein des systèmes d'entreprise.

Et cette transformation s'opère à une vitesse sans précédent. Dans notre récent Jitterbit Rapport de référence sur l'automatisation de l'IANous avons constaté que seulement 1.6 % des répondants n'ont déployé aucun agent d'IA. Parmi ceux qui en ont déployé, le nombre d'agents devrait augmenter en moyenne de 43 % au cours de l'année à venir, et le pourcentage de répondants disposant de déploiements massifs (plus de 100 agents) devrait plus que doubler.

Cette croissance fulgurante du nombre d'agents a suscité des inquiétudes quant à leur prolifération et à leur gestion, et a stimulé l'enthousiasme du secteur pour des frameworks comme OpenClaw (un système open source capable de connecter des applications de messagerie comme What).sApp ou Discord aux agents autonomes s'exécutant sur la machine d'un utilisateur.)

Mais si le passage de la capacité des agents à la gestion des agents est important, une approche plus prospective est nécessaire à mesure que les organisations passent des projets pilotes d'IA aux opérations à grande échelle.

Le point de bascule : de l'inférence à l'action

Les modèles d'IA traditionnels se concentrent principalement sur l'inférence, c'est-à-dire l'interprétation des données et l'aide à la décision humaine. L'IA agentique, en revanche, modifie fondamentalement le rôle du logiciel : au lieu que les humains manipulent directement les outils, les applications deviennent des environnements où des agents agissent pour le compte de l'utilisateur.

Cela représente un bond en avant considérable en termes de capacités : il permet de transformer de vastes modèles de langage en acteurs autonomes capables de naviguer dans les applications et de coordonner les flux de travail à travers des sources de données hétérogènes. Cependant, cela amplifie également les risques, ouvrant la voie à des violations de conformité, au blocage des agents dans des boucles, à la prolifération des permissions, etc. Des déploiements responsables et pérennes exigent que nous élargissions notre approche pour y intégrer les exigences fondamentales de confiance, de contrôle et de responsabilité.

Pourquoi les couches de sécurité et la gouvernance sont importantes

Lors de la présentation de NemoClaw, la suite logicielle et le plugin NVIDIA qui intègrent à OpenClaw des fonctionnalités de sandbox et de contrôle basées sur des politiques de sécurité de niveau entreprise, Huang a décrit cette nouvelle solution comme un moyen pour les experts en technologies de l'information d'interagir avec les logiciels grâce à des capacités d'utilisation informatique. Ceci ouvre la voie à l'IA pour interagir avec les navigateurs et les applications comme le feraient les humains.

Cette transition représente un tournant décisif pour l'entreprise moderne, selon Jitterbit PDG Bill Conner :

« Nous assistons à l'un des tournants technologiques les plus rapides et les plus importants depuis ChatGPT : le passage d'une IA qui suggère à une IA qui… » actesOpenClaw a accéléré cette transition, mais cette puissance s'accompagne de risques réels. À l'état brut, ces frameworks sont dépourvus de modèle de sécurité intrinsèque. En entreprise, il ne s'agit pas seulement d'une lacune, mais d'un véritable handicap.

À mesure que les agents d'IA acquièrent la capacité de se déplacer dynamiquement entre les systèmes et les frontières juridictionnelles, les enjeux liés à la souveraineté et à la responsabilité des données deviennent de plus en plus urgents. C'est pourquoi Jitterbit Il préconise une approche « par couches » de l’IA. En intégrant aux plateformes d’agents une infrastructure robuste, des garde-fous et un système d’application des politiques, les entreprises peuvent tirer parti de l’efficacité de l’IA sans perdre le contrôle.

Selon Jitterbit Manoj Chaudhary, directeur technique de NVIDIA, explique que la nouvelle offre de NemoClaw marque un tournant décisif dans le fonctionnement des agents d'IA. « L'introduction de NemoClaw témoigne d'une prise de conscience plus générale au sein du secteur : l'IA agentique a besoin d'une infrastructure de niveau entreprise. Nous évoluons vers des "systèmes d'exploitation d'IA" — des plateformes qui non seulement permettent l'intelligence, mais contrôlent également son comportement. Il s'agit d'une innovation ouverte en périphérie, avec une gouvernance structurée en surface. »

Évolution vers le modèle Agent-as-a-Service

Selon Conner, la démocratisation sécurisée de l'accès aux données nécessite deux éléments fondamentaux : la supervision humaine et les garde-fous technologiques.

« À mesure que les agents gagnent en autonomie, la responsabilité de l'IA devient plus difficile à définir. Lorsqu'un agent agit indépendamment, la responsabilité doit néanmoins être clairement attribuée au système, à l'organisation et, en dernier ressort, à la supervision humaine. Les garde-fous doivent évoluer : de simples contrôles politiques, ils doivent devenir des contraintes dynamiques et applicables, intégrées directement au fonctionnement des agents. »

En d'autres termes, si l'approche « déployer maintenant et poser des questions plus tard » nous a permis d'aller aussi loin, il devient de plus en plus évident qu'elle ne nous conduira pas là où nous devons réellement aller. Dans la course à l'adoption des agents, les entreprises qui franchiront finalement la ligne d'arrivée ne seront pas celles qui possèdent les agents les plus puissants, mais celles qui auront le plus d'agents. responsable les.

À mesure que les agents d'IA deviennent la pierre angulaire des opérations d'entreprise — vers un avenir que Huang décrit comme « l'IA pour tout » — le débat doit évoluer et passer de la simple question de l'agent d'IA à celle de l'IA. capacités agent IA la reddition de comptesL’objectif ultime est de garantir que les agents soient non seulement performants, mais aussi sûrs, conformes et parfaitement intégrés au tissu des opérations commerciales.