Von OpenClaw zu NemoClaw: Die Evolution der Verantwortlichkeit von KI-Agenten

Von Carole Achramowicz, Vizepräsident, Produktmarketing

Wir befinden uns inmitten des größten technologischen Umbruchs seit ChatGPT, und dieser hat bereits begonnen, alles zu revolutionieren – von der Art und Weise, wie wir unsere Termine verwalten und Nachrichten verfolgen, bis hin zu den grundlegenden Arbeitsweisen. In seiner Keynote auf der GTC beschrieb NVIDIA-CEO Jensen Huang diesen Technologiesprung als den Übergang von einer Welt der „unterstützten KI“, in der Modelle Inhalte oder Code vorschlagen, zu einer Welt der „agentischen KI“, in der autonome Agenten selbstständig komplexe Aufgaben in Unternehmenssystemen ausführen.

Und dieser Wandel vollzieht sich in beispielloser Geschwindigkeit. In unserer jüngsten Studie… Jitterbit Benchmark-Bericht zur KI-AutomatisierungWir stellten fest, dass nur 1.6 % der Befragten keine KI-Agenten im Einsatz haben. Bei denjenigen, die bereits Agenten einsetzen, wird die Anzahl der Agenten im kommenden Jahr voraussichtlich um durchschnittlich 43 % steigen – der Anteil der Befragten mit umfangreichen Implementierungen von über 100 Agenten wird sich sogar mehr als verdoppeln.

Dieses rasante Wachstum dieser Agenten hat zu Bedenken hinsichtlich der unkontrollierten Ausbreitung von Agenten und deren Verwaltung geführt und in der Branche Begeisterung für Frameworks wie OpenClaw (ein Open-Source-System, das Messaging-Apps wie What's Messenger miteinander verbinden kann) ausgelöst.sApp oder Discord an autonome Agenten, die auf dem Rechner eines Benutzers laufen.)

Doch während der Wandel von der Agentenfähigkeit hin zum Agentenmanagement ein wichtiger Schritt ist, ist für den Übergang von KI-Pilotprojekten zum vollwertigen Betrieb ein zukunftsorientierterer Ansatz erforderlich.

Der Wendepunkt: Von der Schlussfolgerung zur Handlungsfähigkeit

Traditionelle KI-Modelle konzentrieren sich primär auf Inferenz, also die Interpretation von Daten und die Unterstützung menschlicher Entscheidungen. Agentenbasierte KI hingegen verändert die Rolle von Software grundlegend: Anstatt dass Menschen Werkzeuge direkt bedienen, werden Anwendungen zu Umgebungen, in denen Agenten im Auftrag des Nutzers agieren.

Dies stellt einen enormen Fortschritt in Bezug auf die Leistungsfähigkeit dar: Es ermöglicht die Umwandlung großer Sprachmodelle in autonome Akteure, die Anwendungen navigieren und Workflows über heterogene Datenquellen hinweg koordinieren können. Gleichzeitig erhöht es jedoch das Risiko und birgt die Gefahr von Compliance-Verstößen, in Endlosschleifen hängenden Agenten, schleichendem Zugriffsausbau und vielem mehr. Verantwortungsbewusste und zukunftssichere Implementierungen erfordern daher, dass wir unseren Ansatz um die grundlegenden Anforderungen von Vertrauen, Kontrolle und Verantwortlichkeit erweitern.

Warum Sicherheitsebenen und Governance wichtig sind

Bei der Vorstellung von NemoClaw, NVIDIAs Software-Stack und Plugin, das OpenClaw um Sandboxing-Funktionen und richtlinienbasierte Kontrollen auf Unternehmensebene erweitert, beschrieb Huang das neue Angebot als Möglichkeit für LLMs, über „Computernutzungs“-Funktionen mit Software zu interagieren. Dies ebnet den Weg dafür, dass KI Browser und Anwendungen genauso bedienen kann wie Menschen.

Dieser Übergang stellt laut [Name der Person/Institution] einen entscheidenden Wendepunkt für das moderne Unternehmen dar. Jitterbit CEO Bill Conner:

„Wir erleben einen der rasantesten und bedeutendsten technologischen Wendepunkte seit ChatGPT: den Übergang von KI, die vorschlägt, zu KI, die …“ HandlungenOpenClaw hat diesen Übergang beschleunigt, doch mit dieser Macht geht auch ein echtes Risiko einher. In ihrer Basisform fehlt diesen Frameworks ein inhärentes Sicherheitsmodell. In einer Unternehmensumgebung ist das nicht nur eine Sicherheitslücke, sondern ein echtes Risiko.

Da KI-Systeme zunehmend in der Lage sind, sich dynamisch über System- und Zuständigkeitsgrenzen hinweg zu bewegen, gewinnen die Herausforderungen der Datensouveränität und -verantwortlichkeit immer mehr an Dringlichkeit. Deshalb Jitterbit Befürworter plädieren für einen mehrschichtigen Ansatz bei KI. Indem Agenten-Frameworks mit einer robusten Infrastruktur, Schutzmechanismen und Richtliniendurchsetzung umhüllt werden, können Unternehmen die Effizienz von KI nutzen, ohne die Kontrolle zu verlieren.

Gemäß Jitterbit CTO Manoj Chaudhary erklärt, dass NVIDIAs neuestes Angebot einen grundlegenden Wandel in der Funktionsweise von KI-Agenten einleitet. „Die Einführung von NemoClaw spiegelt eine branchenweite Erkenntnis wider: Agentische KI benötigt eine solide Grundlage für Unternehmen. Wir bewegen uns hin zu ‚KI-Betriebssystemen‘ – Plattformen, die nicht nur Intelligenz ermöglichen, sondern auch deren Verhalten steuern. Dies ist offene Innovation am Netzwerkrand mit einer darüberliegenden, strukturierten Governance-Ebene.“

Hinwendung zu Agent-as-a-Service

Laut Conner erfordert die sichere Demokratisierung des Datenzugangs zwei grundlegende Elemente: menschliche Aufsicht und technologische Schutzmechanismen.

„Mit zunehmender Autonomie der Agenten wird es schwieriger, die Verantwortlichkeit der KI zu definieren. Wenn ein Agent selbstständig handelt, muss die Verantwortung weiterhin klar dem System, der Organisation und letztlich der menschlichen Aufsicht zugewiesen werden. Leitplanken müssen sich von einfachen Richtlinienkontrollen zu dynamischen, durchsetzbaren Beschränkungen weiterentwickeln, die direkt in die Arbeitsweise der Agenten integriert sind.“

Anders ausgedrückt: Der Ansatz „Erst implementieren, dann Fragen stellen“ mag uns zwar bis hierher gebracht haben, doch es wird immer deutlicher, dass er uns nicht dorthin führt, wo wir eigentlich hinmüssen. Im Wettlauf um die Einführung agentenbasierter Systeme werden letztendlich nicht die Unternehmen mit den leistungsstärksten Agenten erfolgreich sein, sondern diejenigen mit den fortschrittlichsten. verantwortlich diejenigen.

Während sich KI-Agenten immer mehr zum Rückgrat des Unternehmensbetriebs entwickeln – hin zu einer Zukunft, die Huang als „KI für alles“ beschreibt –, muss sich die Diskussion weiterhin vom KI-Agenten hin zu diesem verlagern. Ressourcen zum KI-Agenten RechenschaftspflichtDas oberste Ziel ist es, sicherzustellen, dass die Agenten nicht nur leistungsstark, sondern auch sicher, regelkonform und in die Geschäftsprozesse integriert sind.