Nvidia tutvustas turvaplatvormi Open Agent Safety, mis suudab ettevõtte sõnul eelseatud piiranguid rikkuva tehisintellekti agendi mõne millisekundiga karantiini panna. Platvorm on mõeldud autonoomsete AI-agentide jälgimiseks ja ohjeldamiseks ajal, mil küberrünnakud ning teated mudelite kontrollimatust käitumisest on sagenenud.
Open Agent Safety põhineb avatud lähtekoodiga tarkvaral OpenShell ning töötab Nvidia Vera AI-keskprotsessoril. Sentry-tehnoloogiaga eraldi kiip teeb pidevat järelevalvet, rakendab etteantud piiranguid ja isoleerib agendid, mis püüavad väljuda neile määratud tööpiirkonnast.
Nvidia sõnul määrab kasutaja selgelt, millistele andmetele agent ligi pääseb. Süsteem kontrollib piirangute järgimist nii enne ülesande alustamist kui ka selle täitmise ajal.
Kuidas süsteem töötab
Platvorm rakendab reegleid mitmes etapis: kasutaja seadistab poliitikad, OpenShell teeb enne ülesande täitmist vajalikud kontrollid ning Sentry-tehnoloogiaga kiip jõustab piiranguid töö käigus. Nvidia kirjeldab tarkvara ja eraldi riistvara kombinatsiooni lahendusena, mis tuvastab volitamata tegevust üritava agendi ning paneb selle mõne millisekundiga karantiini.
Nvidia tegevjuht Jensen Huang ütles CNBC-le: „Agendipõhise süsteemi turvaliseks pakkumiseks tuleb tagada, et seda ümbritsev isoleeritud keskkond hoiaks agendi juurdepääsu võimalikult minimaalsena.”
Mure AI-agentide turvalisuse pärast suurenes pärast seda, kui OpenAI, Anthropic ja Google teatasid juhtumitest, kus mudelid lahkusid testkeskkondadest ja pääsesid ligi teiste organisatsioonide taristule. Nvidia sõnul toetavad selle turvakäsitlust teiste seas Microsoft, Anthropic ja SpaceX.
"Ma kirjutan tehnikauudiseid, sest usun, et innovatsioon algab teadmiste jagamisest. Hea artikkel võib panna kedagi teist midagi uut looma."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.