OpenClawista NemoClawiin: Tekoälyagenttien vastuullisuuden kehitys

Kirjailija: Carole Achramowicz, Varatoimitusjohtaja, tuotemarkkinointi

Elämme parhaillaan suurinta teknologista muutosta sitten ChatGPT:n, ja se on jo alkanut mullistaa kaikkea päivittäisten kalenterien hallinnasta ja uutisten seuraamisesta aina työnteon perustavanlaatuisiin tapoihin. NVIDIAn toimitusjohtaja Jensen Huang kuvaili äskettäisessä GTC:n avauspuheenvuorossaan tätä teknologista harppausta siirtymisenä "avustetun tekoälyn" maailmasta, jossa mallit ehdottavat sisältöä tai koodia, "agenttisen tekoälyn" maailmaan, jossa autonomiset agentit suorittavat itsenäisesti monimutkaisia ​​tehtäviä eri yritysjärjestelmissä.

Ja tämä muutos tapahtuu ennennäkemättömän nopeasti. Viimeaikaisessa Jitterbit Tekoälyn automaation vertailuraporttiHavaitsimme, että vain 1.6 prosentilla vastaajista ei ole käytössä tekoälyagentteja. Niiden osalta, joilla on käytössä agenttikäyttöönotot, agenttien määrän odotetaan kasvavan keskimäärin 43 prosenttia tulevan vuoden aikana – ja niiden vastaajien prosenttiosuuden, joilla on massiiviset, yli 100 agentin käyttöönotot, odotetaan yli kaksinkertaistuvan.

Näiden agenttien määrän nopea kasvu on johtanut huoleen agenttien leviämisestä ja agenttien hallinnasta, mikä on herättänyt alan innostusta OpenClawin kaltaisia ​​​​kehyksiä kohtaan (avoimen lähdekoodin järjestelmä, joka pystyy yhdistämään viestisovelluksia, kuten WhatsApp tai Discord käyttäjän koneella toimiville autonomisille agenteille.)

Vaikka siirtyminen agenttikyvystä agenttien hallintaan on tärkeää, organisaatioiden siirtyessä tekoälypiloteista täysimittaiseen toimintaan tarvitaan tulevaisuuteen suuntautuvampaa lähestymistapaa.

Käännekohta: Päätelmästä toimijuuteen

Perinteiset tekoälymallit keskittyvät ensisijaisesti päättelyyn eli datan tulkintaan ja ihmisen tekemien päätösten tukemiseen. Agenttinen tekoäly puolestaan ​​muuttaa perusteellisesti ohjelmistojen roolia: Sen sijaan, että ihmiset manipuloisivat työkaluja suoraan, sovelluksista on tulossa ympäristöjä, joissa agentit toimivat käyttäjän puolesta.

Tämä edustaa valtavaa harppausta ominaisuuksien suhteen: Se mahdollistaa suurten kielimallien muuttamisen itsenäisiksi toimijoiksi, jotka kykenevät navigoimaan sovelluksissa ja koordinoimaan työnkulkuja eri tietolähteiden välillä. Mutta se myös suurentaa riskejä, avaamalla oven vaatimustenmukaisuusrikkomuksille, agenttien jumiutumiselle silmukoihin, käyttöoikeuksien muutoksille ja muulle. Vastuulliset ja tulevaisuuden vaatimukset täyttävät käyttöönotot edellyttävät meiltä lähestymistapamme laajentamista kattamaan luottamuksen, hallinnan ja vastuullisuuden perusvaatimukset.

Miksi tietoturvakerrokset ja hallinta ovat tärkeitä

Esitellessään NemoClawin, NVIDIAn ohjelmistopinon ja -laajennuksen, joka lisää OpenClawiin yritystason hiekkalaatikkoympäristön ja käytäntöihin perustuvat kontrollit, Huang kuvaili uutta tarjousta tapana antaa oikeustieteen maistereille (LLM) mahdollisuus olla vuorovaikutuksessa ohjelmistojen kanssa "tietokoneen käyttöominaisuuksien" kautta. Tämä avaa tekoälylle oven selainten ja sovellusten käyttämiseen aivan kuten ihmiset.

Tämä siirtymä edustaa kriittistä käännekohtaa nykyaikaiselle yritykselle, ... Jitterbit Toimitusjohtaja Bill Conner:

”Näemme yhden nopeimmista ja monumentaalisimmista teknologian käännekohdista sitten ChatGPT:n: siirtymisen tekoälystä, joka vihjaa tekoälyyn, joka…” säädöksetOpenClaw nopeutti tätä siirtymää, mutta sen voiman mukana tulee todellinen riski. Raakamuodossaan näiltä kehyksiltä puuttuu luontainen tietoturvamalli. Yritysympäristössä se ei ole vain aukko, vaan myös haitta.”

Kun tekoälyagentit saavat kyvyn liikkua dynaamisesti järjestelmien ja lainkäyttöalueiden rajojen yli, datasuvereniteetin ja vastuuvelvollisuuden haasteista tulee yhä kiireellisempiä. Siksi Jitterbit kannattaa tekoälyn ”kerrostettua” lähestymistapaa. Yhdistämällä agenttikehykset vankkaan infrastruktuuriin, suojakaiteisiin ja käytäntöjen valvontaan yritykset voivat hyödyntää tekoälyn tehokkuutta vaarantamatta hallintaa.

Mukaan Jitterbit NVIDIAn teknologiajohtaja Manoj Chaudharyn mukaan NVIDIAn uusin tuote ehdottaa mullistavaa muutosta tekoälyagenttien toimintatapoihin. ”NemoClawin käyttöönotto heijastaa laajempaa alan oivallusta: Agenttinen tekoäly tarvitsee yritystason perustan. Olemme siirtymässä kohti ’tekoälykäyttöjärjestelmiä’ – alustoja, jotka eivät ainoastaan ​​mahdollista älykkyyttä, vaan myös hallitsevat sen toimintaa. Tämä on avointa innovaatiota reunalla, ja sen päällä on jäsennelty hallinto.”

Siirtyminen kohti Agent-as-a-Service -mallia

Connerin mukaan datan saatavuuden turvallinen demokratisointi vaatii kaksi perustavanlaatuista elementtiä: ihmisen suorittamaa valvontaa ja teknologisia suojakaiteita.

”Agenttien itsenäistyessä tekoälyn vastuullisuutta on vaikeampi määritellä. Kun agentti toimii itsenäisesti, vastuu on edelleen selkeästi osoitettava järjestelmälle, organisaatiolle ja lopulta ihmisen valvonnalle. Kaiteiden on kehityttävä yksinkertaisista käytäntökontrolleista dynaamisiksi, täytäntöönpanokelpoisiksi rajoituksiksi, jotka on upotettu suoraan agenttien toimintaan.”

Toisin sanoen, vaikka "käyttöönotto nyt ja kysymysten esittäminen myöhemmin" -lähestymistapa onkin saattanut viedä meidät näin pitkälle, on yhä selvempää, ettei se vie meitä sinne, missä meidän todella pitäisi olla. Agenttien käyttöönoton kilpailussa maaliviivan ylittävät yritykset eivät lopulta ole niitä, joilla on tehokkaimmat agentit, vaan niitä, joilla on eniten... vastuussa yhdet.

Tekoälyagenttien kehittyessä jatkuvasti yritystoiminnan selkärangaksi – kohti tulevaisuutta, jota Huang kuvailee "tekoälyksi kaikessa" – keskustelun on jatkuvasti siirryttävä tekoälyagenteista kyvyt tekoälyagentille vastuullisuuttaPerimmäisenä tavoitteena on varmistaa, että agentit eivät ole vain tehokkaita, vaan myös turvallisia, vaatimustenmukaisia ​​ja integroituneita liiketoiminnan rakenteeseen.