De OpenClaw a NemoClaw: A Evolução da Responsabilização de Agentes de IA

Por Carole Achramowicz, Vice-presidente de marketing de produto

Estamos vivenciando a maior transformação tecnológica desde o ChatGPT, e ela já começou a revolucionar tudo, desde a forma como gerenciamos nossas agendas diárias e acompanhamos as notícias até as maneiras fundamentais como o trabalho é realizado. Em seu recente discurso de abertura na GTC, o CEO da NVIDIA, Jensen Huang, descreveu esse salto tecnológico como a transição de um mundo de "IA Assistida", onde modelos sugerem conteúdo ou código, para um mundo de "IA Agenética", onde agentes autônomos executam tarefas complexas de forma independente em sistemas corporativos.

E essa mudança está acontecendo com uma velocidade sem precedentes. Em nosso recente Jitterbit Relatório de Benchmarking de Automação de IADescobrimos que apenas 1.6% dos entrevistados não têm agentes de IA implantados. Para aqueles com implantações de agentes, o número de agentes deverá aumentar em média 43% no próximo ano — com a porcentagem de entrevistados com implantações massivas, com mais de 100 agentes, prevista para mais que dobrar.

Esse crescimento meteórico desses agentes gerou preocupações sobre a proliferação de agentes e o gerenciamento de agentes, impulsionando o entusiasmo da indústria em torno de frameworks como o OpenClaw (um sistema de código aberto capaz de conectar aplicativos de mensagens como o What!).sApp ou Discord para agentes autônomos executados na máquina do usuário.)

Mas, embora a mudança da capacidade do agente para a gestão do agente seja importante, à medida que as organizações transitam de projetos-piloto de IA para operações em larga escala, uma abordagem mais voltada para o futuro se faz necessária.

O Ponto de Virada: Da Inferência à Ação

Os modelos tradicionais de IA focam-se principalmente na inferência, ou seja, na interpretação de dados e no apoio às decisões humanas. A IA agente, por outro lado, altera fundamentalmente o papel do software: em vez de humanos manipularem diretamente as ferramentas, as aplicações estão a tornar-se ambientes onde os agentes operam em nome do utilizador.

Isso representa um salto enorme em termos de capacidades: desbloqueia a possibilidade de transformar grandes modelos de linguagem em agentes autônomos capazes de navegar por aplicativos e coordenar fluxos de trabalho em fontes de dados distintas. Mas também amplia os riscos, abrindo caminho para violações de conformidade, agentes presos em loops, expansão descontrolada de permissões e muito mais. Implantações responsáveis ​​e preparadas para o futuro exigem que expandamos nossa abordagem para incluir os requisitos fundamentais de confiança, controle e responsabilidade.

Por que as camadas de segurança e a governança são importantes

Ao apresentar o NemoClaw, o conjunto de softwares e plugins da NVIDIA que adiciona sandboxing de nível empresarial e controles baseados em políticas ao OpenClaw, Huang descreveu a nova oferta como uma forma de permitir que os LLMs interajam com o software por meio de recursos de "uso de computador". Isso abre caminho para que a IA opere navegadores e aplicativos da mesma forma que os humanos.

Essa transição representa uma encruzilhada crítica para a empresa moderna, de acordo com Jitterbit CEO Bill Conner:

“Estamos testemunhando um dos pontos de inflexão tecnológica mais rápidos e monumentais desde o ChatGPT: a transição da IA ​​que sugere para a IA que atosO OpenClaw acelerou essa transição, mas com esse poder vem um risco real. Em sua forma bruta, essas estruturas carecem de um modelo de segurança inerente. Em um ambiente corporativo, isso não é apenas uma lacuna, é uma vulnerabilidade.

À medida que os agentes de IA adquirem a capacidade de se mover dinamicamente entre sistemas e fronteiras jurisdicionais, os desafios da soberania e da responsabilidade dos dados tornam-se cada vez mais urgentes. É por isso que Jitterbit Defende uma abordagem "em camadas" para a IA. Ao envolver as estruturas de agentes com uma camada de infraestrutura robusta, salvaguardas e aplicação de políticas, as empresas podem aproveitar a eficiência da IA ​​sem comprometer o controle.

De acordo com as Jitterbit O diretor de tecnologia (CTO) da NVIDIA, Manoj Chaudhary, afirma que a mais recente oferta da NVIDIA sugere uma mudança radical na forma como os agentes de IA podem operar. “O lançamento do NemoClaw reflete uma percepção mais ampla do setor: a IA agética precisa de uma base de nível empresarial. Estamos caminhando para 'sistemas operacionais de IA' — plataformas que não apenas habilitam a inteligência, mas também controlam como essa inteligência se comporta. Trata-se de inovação aberta na borda, com governança estruturada em camadas.”

Rumo ao modelo de Agente como Serviço (Affordable as a Service).

Segundo Conner, a democratização segura do acesso a dados requer dois elementos fundamentais: supervisão humana e mecanismos de proteção tecnológicos.

À medida que os agentes se tornam mais autônomos, a responsabilidade da IA ​​torna-se mais difícil de definir. Quando um agente age de forma independente, a responsabilidade ainda deve ser claramente atribuída ao sistema, à organização e, em última instância, à supervisão humana. As salvaguardas devem evoluir de simples controles de política para restrições dinâmicas e aplicáveis, incorporadas diretamente na forma como os agentes operam.

Em outras palavras, embora a abordagem de "implantar agora e perguntar depois" possa ter nos levado até aqui, está cada vez mais claro que ela não nos levará aonde realmente precisamos chegar. Na corrida pela adoção de agentes, as empresas que finalmente cruzarem a linha de chegada não serão aquelas com os agentes mais poderosos, mas sim as mais... responsável onas.

À medida que os agentes de IA continuam a evoluir e se tornam a espinha dorsal das operações empresariais — rumo a um futuro que Huang descreve como “IA para tudo” — a conversa precisa continuar a mudar de foco, deixando de lado os agentes de IA. capacidades para agente de IA responsabilidadeO objetivo final é garantir que os agentes não sejam apenas poderosos, mas também seguros, estejam em conformidade com as normas e integrados à estrutura das operações comerciais.