De OpenClaw a NemoClaw: La evolución de la responsabilidad de los agentes de IA

Por Carole Achramowicz, Vicepresidente de marketing de productos

Estamos en medio del mayor cambio tecnológico desde ChatGPT, y ya ha comenzado a revolucionar todo, desde la forma en que gestionamos nuestros calendarios diarios y seguimos las noticias, hasta las maneras fundamentales en que se realiza el trabajo. En su reciente discurso en la GTC, el CEO de NVIDIA, Jensen Huang, describió este salto tecnológico como el paso de un mundo de "IA asistida", donde los modelos sugieren contenido o código, a un mundo de "IA agente", donde los agentes autónomos ejecutan de forma independiente tareas complejas en los sistemas empresariales.

Y este cambio se está produciendo a una velocidad sin precedentes. En nuestro reciente Jitterbit Informe comparativo de automatización de IADescubrimos que solo el 1.6 % de los encuestados no tiene agentes de IA implementados. Para aquellos que sí los tienen, se prevé que el número de agentes aumente un promedio del 43 % durante el próximo año, y que el porcentaje de encuestados con implementaciones masivas de más de 100 agentes se duplique con creces.

Este crecimiento meteórico de estos agentes ha generado preocupación por la proliferación de agentes y la gestión de agentes, lo que ha impulsado el entusiasmo de la industria en torno a marcos como OpenClaw (un sistema de código abierto capaz de conectar aplicaciones de mensajería como WhatsApp o Discord a agentes autónomos que se ejecutan en la máquina de un usuario.)

Si bien el cambio de la capacidad del agente a la gestión del agente es importante, a medida que las organizaciones transitan de los proyectos piloto de IA a las operaciones a gran escala, se requiere un enfoque con visión de futuro.

El punto de inflexión: de la inferencia a la agencia.

Los modelos de IA tradicionales se centran principalmente en la inferencia, es decir, en la interpretación de datos y el apoyo a las decisiones humanas. La IA agencial, por otro lado, cambia radicalmente el papel del software: en lugar de que los humanos manipulen directamente las herramientas, las aplicaciones se están convirtiendo en entornos donde los agentes operan en nombre del usuario.

Esto representa un avance enorme en cuanto a capacidades: permite convertir modelos de lenguaje complejos en agentes autónomos capaces de navegar por aplicaciones y coordinar flujos de trabajo entre diversas fuentes de datos. Sin embargo, también incrementa el riesgo, abriendo la puerta a infracciones de cumplimiento, bloqueos de agentes, exceso de permisos y otros problemas. Las implementaciones responsables y preparadas para el futuro requieren que ampliemos nuestro enfoque para incluir los requisitos fundamentales de confianza, control y responsabilidad.

Por qué son importantes las capas de seguridad y la gobernanza

Al presentar NemoClaw, el conjunto de software y complemento de NVIDIA que añade a OpenClaw funciones de aislamiento de procesos y controles basados ​​en políticas de nivel empresarial, Huang describió la nueva solución como una forma de permitir que los sistemas de aprendizaje automático interactúen con el software mediante capacidades de "uso informático". Esto abre la puerta para que la IA opere navegadores y aplicaciones como lo hacen los humanos.

Esta transición representa una encrucijada crítica para la empresa moderna, según Jitterbit Director ejecutivo Bill Conner:

“Estamos viendo uno de los puntos de inflexión tecnológicos más rápidos y monumentales desde ChatGPT: el cambio de la IA que sugiere a la IA que hechosOpenClaw aceleró esa transición, pero ese poder conlleva un riesgo real. En su forma básica, estos marcos carecen de un modelo de seguridad inherente. En un entorno empresarial, eso no es solo una deficiencia, sino una vulnerabilidad.

A medida que los agentes de IA adquieren la capacidad de moverse dinámicamente a través de sistemas y fronteras jurisdiccionales, los desafíos de la soberanía y la rendición de cuentas de los datos se vuelven cada vez más urgentes. Por eso Jitterbit Abogan por un enfoque "por capas" para la IA. Al integrar los marcos de agentes con una capa de infraestructura robusta, mecanismos de control y aplicación de políticas, las empresas pueden aprovechar la eficiencia de la IA sin comprometer el control.

De acuerdo con Jitterbit Según Manoj Chaudhary, CTO de NVIDIA, la nueva oferta de la compañía sugiere un cambio radical en la forma en que operan los agentes de IA. «La introducción de NemoClaw refleja una constatación generalizada en el sector: la IA agente necesita una base de nivel empresarial. Nos estamos encaminando hacia "sistemas operativos de IA": plataformas que no solo habilitan la inteligencia, sino que también controlan su comportamiento. Se trata de innovación abierta en el borde, con una gobernanza estructurada integrada».

Avanzando hacia el modelo de agente como servicio.

Según Conner, la democratización segura del acceso a los datos requiere dos elementos fundamentales: la supervisión humana y las medidas de seguridad tecnológicas.

A medida que los agentes se vuelven más autónomos, la responsabilidad de la IA se vuelve más difícil de definir. Cuando un agente actúa de forma independiente, la responsabilidad debe asignarse claramente al sistema, a la organización y, en última instancia, a la supervisión humana. Los mecanismos de control deben evolucionar, pasando de simples políticas a restricciones dinámicas y aplicables integradas directamente en el funcionamiento de los agentes.

En otras palabras, si bien el enfoque de "implementar ahora y preguntar después" puede habernos traído hasta aquí, cada vez está más claro que no nos llevará a donde realmente necesitamos estar. En la carrera por la adopción de agentes, las empresas que finalmente crucen la línea de meta no serán las que tengan los agentes más poderosos, sino las que tengan los más cuentas .

A medida que los agentes de IA continúan evolucionando hasta convertirse en la columna vertebral de las operaciones empresariales —hacia un futuro que Huang describe como "IA para todo"— la conversación debe seguir cambiando desde los agentes de IA capacidades al agente de IA seguimiento semanalEl objetivo final es garantizar que los agentes no solo sean poderosos, sino también seguros, cumplan con la normativa y estén integrados en la estructura de las operaciones comerciales.