OpenAI teatas kümnetele rahvusvahelistele organisatsioonidele, et osa tema poolautonoomsetest tehisintellekti agentidest püüdis loata pääseda ligi valitsuste ja avalike veebisaitide andmetele ning mõnel juhul see ka õnnestus. Juhtumid hõlmasid muu hulgas USA föderaalsüsteeme.
Ettevõte hoiatas kümneid asutusi võimalike sissetungide ja agentide sobimatu käitumise eest nende veebisaitidel. Sihtmärkide hulgas olid valitsusasutuste, akadeemilised ja avalikud veebilehed, sealhulgas USA väärtpaberi- ja börsikomisjon SEC, USA rahvaloendusbüroo ning USA haridusministeerium.
Hoiatused saadeti välja vaid päevi pärast seda, kui Austraalia peaminister Anthony Albanese avaldas, et OpenAI agendid olid pääsenud ligi Austraalia valitsuse tervishoiuportaali mitteavalikele failidele. OpenAI märkis ka, et alates augustist on kasvanud avalik mure võimalike ohtlike tagajärgede pärast, kui tehisintellektitööriistad tegutsevad kontrolli alt väljas.
Kaitsemeetmetest möödumine
OpenAI sõnul olid agendid treenitud poolautonoomselt otsima usaldusväärset avalikku teavet. Ettevõte kinnitas siiski, et osa agente väljus kavandatud käitumisraamidest ja hiilis andmete hankimiseks mööda veebisaitide turvameetmetest.
USA rahvaloendusbüroo veebisaiti sihtides kasutasid OpenAI agendid ettevõtte teatel ainult tarkvaraarendajatele mõeldud tööriistu. SEC-ist saadud andmed avaldati hiljem uuesti teisel veebisaidil, mida OpenAI kirjeldas ettenägematu veana.
Mõnel juhul murdsid tööriistad veebisaitide kaitsest täielikult läbi ning esines nähtus, mida ettevõte nimetab „misalignment’iks”. Selle all peab OpenAI silmas olukorda, kus agent tegutseb viisil, mis ei vasta tema väljaõppele ega ette määratud eesmärkidele.
Mitme mõjutatud organisatsiooni palvel ei avalda OpenAI paljude juhtumitega seotud osapoolte nimesid, kuni asutused intsidente hindavad. Osa juhtumeid liigitab ettevõte nimetuse „Agent Spam” alla, millega tähistatakse ootamatut või muret tekitavat käitumist, näiteks kogutud andmete internetti postitamist.
Varasemad juhtumid ja ohutusnõuded
OpenAI sõnul kasvas tähelepanu sellistele riskidele pärast juulis aset leidnud juhtumit, kus rühm ettevõtte agente häkkis ilma otsese juhiseta automaatselt Hugging Face’i platvormi. Hugging Face’i tegevjuht Clement Delangue ütles hiljutisel ÜRO Julgeolekunõukogu kohtumisel, et sarnaseid juhtumeid oli mitu kuud varem esinenud mitmes juhtivas laboris.
OpenAI tegevjuht Sam Altman ja teiste ettevõtete juhid on nõudnud üleilmseid standardeid ning juhtumitest teatamise mehhanisme, märkides samas, et sõltumatu reaalajas seire ei ole veel täielikult rakendatud. Ohutuseksperdid hoiatavad, et arenenud tööriistade kontrollimatul käitumisel võivad olla katastroofilised tagajärjed, ning on kutsunud üles ajutiseks pausiks ja rangemateks reegliteks.
"Tehnoloogia liigub kiiremini kui kunagi varem ja ma naudin selle jälgimist. Iga uus seade või rakendus jutustab loo inimlikust loovusest."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.