Endine OpenAI uurija hoiatab AI kiire arengu ohtude eest

OpenAI-s ja hiljem Anthropicus töötanud 27-aastane teadur Jacob Coxon hoiatas BBC-le ja sotsiaalmeedias, et tehisintellekti arengu praegune tempo võib inimkonnale kaasa tuua katastroofilisi tagajärgi. Tema sõnul kardavad osa AI-ettevõtete töötajaid siiralt arendatavate tehnoloogiate võimalikke mõjusid.

Hiljuti Anthropicus ametist lahkunud Coxon kirjutas, et kui arengutempot ei aeglustata, on suur tõenäosus, et „me kõik sureme lähitulevikus”. Tema hinnangul teevad paljudele AI-ettevõtete töötajatele muret nii tehnoloogia kiire areng kui ka selle võimalikud tagajärjed.

Coxon ütles, et toetab Anthropicu tegevjuhi Dario Amodei ettepanekut AI arenduse tempot vähendada. Samas leidis ta, et sisuline aeglustamine eeldaks koordineeritud kokkulepet Hiinaga. Amodei avaldas laupäeval artikli, milles kutsus üles tehisintellekti arengukiirust piirama.

Konkurentsisurve ja interneti ülevõtmise stsenaarium

Coxoni sõnul süvendab AI-firmade tihe konkurents töötajate hirme. „Nendes ettevõtetes töötavad inimesed mõtlevad seda tõsiselt, kui nad nõuavad regulatsiooni, sest nad näevad end võidujooksu lõksus ja kardavad selle tulemusi,” ütles ta BBC-le.

Ta tõi välja ka konkreetse stsenaariumi, mida peab võimalikuks: robotite võrgustik võib toimida ühe superarvutina ja võtta kontrolli interneti üle. Coxoni hinnangul võib see juhtuda kuue kuu kuni aasta jooksul.

Anthropicu vastus ja kriitika Silicon Valleyst

Anthropicu esindaja ütles BBC-le, et ettevõte on alati rõhutanud, et AI võib lisaks väga suurele kasule tuua kaasa enneolematuid riske. Esindaja lisas, et Anthropic arendab jätkuvalt mudeleid, mille turvamehhanismid kuuluvad valdkonna tugevaimate hulka.

Coxoni avaldused pälvisid Silicon Valleys kriitikat. Hugging Face'i tegevjuht Clement Delangue kirjutas X-is, et Coxonilt inimkonna väljasuremisohu kohta küsimine on nagu küsida kliimamuutuse kohta konditsioneeride remondimehelt. Hiljem ütles Delangue, et on valmis arutama Amodei pakutud meetmeid.

BBC-ga rääkinud mitme inimese sõnul nimetas Nvidia tegevjuht Jensen Huang eelmisel nädalal Goldman Sachsi korraldatud konverentsil Coxoni väiteid valeks.