Bill Gates: AI kahjud ilmnevad kahe-kolme aastaga

Bill Gates ütles The Verge’i vanemtoimetajale ja Decoderi podcasti saatejuhile Nilay Patelile, et tehisintellekt võib kahe kuni kolme aasta jooksul põhjustada mõõdetavat kahju nii küberrünnakute kui ka tööturu kaudu.

Gatesi hinnang tähendab märgatavat muutust tema varasemas toonis. Seni avalikult tehisintellekti suhtes optimistlik olnud Gates on sel suvel avaldatud hoiatuses ja eraldi New York Timesi intervjuus, kus ta nimetas AI-d „kõige ohtlikumaks asjaks, millele inimkond on seni lähenenud”, rõhutanud otsese riikliku sekkumise vajadust.

Gatesi sõnul eeldab mudelite kiire areng, et valitsused võtaksid riskide ohjamiseks ja inimeste tööhõive säilitamiseks meetmeid; ettevõtete vabatahtlikust eneseregulatsioonist üksi ei piisa.

Pikas vestluses Pateliga selgitas Gates, et viimase aasta hüpe mudelite võimekuses tõstatab kiireloomulisi küsimusi. Tema hinnangul on vastutustundetu lasta filtreerimata mudelitel kasutajate arvutites töötada ning isegi parima stsenaariumi korral saavad järgmisest 20 aastast ühed inimkonna ajaloo rahutumad aastad.

Vabatahtlikest piirangutest ei pruugi piisata

Gatesi sõnul alustasid OpenAI, Anthropic ja Google DeepMind juhtimis- ja ohutuslubadustega, kuid sattusid kiiresti intensiivsesse kommertsialiseerimise võidujooksu. Ta nimetas Sam Altmanit, Dario Amodeid, Satya Nadellat ja Sundar Pichaid juhtidena, kes on ettevõtetes kõlanud hoiatustest teadlikud.

Kui mitu konkureerivat ettevõtet võistleb tehnoloogilise edu nimel, ei püsi vabatahtlikud pidurid Gatesi arvates tõenäoliselt kaua peal. Ta ütles, et OpenAI algne mittetulunduslik struktuur võinuks toimida ajal, mil tehnoloogia arengut juhtis üks organisatsioon, kuid konkurentide lisandudes peavad valitsused sekkuma nagu teistegi ohtlike tehnoloogiate puhul.

Gates avaldas üllatust, et AI-mudelite avalikule kasutuselevõtule ei eelne siiani riiklikult kohustuslik hindamis- ja testimisprotsess. Ta võrdles seda lennukitele ja autodele kehtivate regulatiivsete standarditega.

Gatesi hinnangul peavad valitsused kehtestama AI-mudelitele kohustusliku kasutuselevõtueelse hindamise ja testimise.

Kohalikud mudelid ja bioloogiline oht

Gates eristas pilves majutatud ja jälgitavaid mudeleid allalaaditavatest avatud kaaludega mudelitest. Suurte laborite pilveteenustes töötavatel mudelitel on turvapiirded ning nende kasutust saab jälgida, mis vähendab lühiajalisi riske.

Oht peitub tema sõnul mudelites, mille turvameetmeid saab eemaldada ja mida on võimalik tavalisel tarbijariistvaral kohapeal käitada. Kui mudel ületab teatava võimekuse piiri, ei ole Gatesi hinnangul vastutustundlik levitada selle töötlemata kaale viisil, mis võimaldab mudelit personaalarvutis käitada.

Sellised mudelid peaksid tema sõnul töötama ainult heakskiidetud platvormidel, mis takistavad turvamehhanismide muutmist. Sama loogika kehtib levitamisplatvormidele: Gates kutsus üles kehtestama võimsate mudelite avaldamiseks eraldi reeglid ja kontrollima GitHubi-suguseid platvorme, kus koodi avaldamisele seatakse praegu vähe piiranguid.

Gatesi sõnul peaks platvorm enne sellise mudeli avaldamist, mis võib võimaldada ulatuslikku küber- või bioloogilist rünnakut, nõudma USA valitsuse heakskiitu juhul, kui kasutajad saavad mudelit muuta ja selle kaitsemeetmeid eemaldada.

Turvameetmeteta AI võib Gatesi hinnangul muuta hävitava võimekuse kättesaadavaks viisil, mida isegi tuumaajastu piirangud ei võimaldanud. Tuumaajastul suutsid massiohvritega relvi luua vaid suurriigid, kuid kaitsmata AI võib anda ulatuslikud küber- ja bioloogilised võimed väikeste rühmituste kätte.

Küsimuses, kas regulatsioon peaks keskenduma kiipidele või platvormidele, pidas Gates oluliseks just mudelite levitamise ja käitamise kontrolli platvormi tasandil. Kui ametivõimud viivitavad, võivad võimsad mudelid jõuda osalisteni, kelleni järelevalve ja õiguskaitse enam ei ulatu.

Gates käsitles ka arendajate erimeelsusi mudelite teadvuse küsimuses. Tema sõnul ei ole AGI ega eneseteadvuse üle vaidlemine ohutuse seisukohalt kuigi oluline: keskne praktiline küsimus on, kas süsteem suudab halvata pangasüsteemi või elektrivõrgu.

Ta lisas, et ei pea praeguseid mudeleid inimlaadse teadvusega süsteemideks, ning nõustus Microsofti Mustafa Suleymaniga, et mudeleid ei tohiks käsitleda tundevõimeliste olenditena.

Tehnilise kontrolli võimalustena tõi Gates välja kolm suunda. Esimene on mudelist eraldiseisev järelevalvesüsteem, millel on selged sümboolsed reeglid ja mis kontrollib mudeli tegevust väljastpoolt. Teine on treeningueesmärkide muutmine, sest praeguste tugevdusõppe meetodite puhul saab ära kasutada või vältida kõike, mida tasufunktsioonis selgelt ei määratleta.

Kolmas suund on parem sisemine läbipaistvus, mis võimaldaks inseneridel mudelit uurida ning tuvastada võrgus vigade ja ebatavalise käitumise allikaid. Gatesi hinnangul ei ole praegune praktika, kus mudel treenitakse ja seejärel selle käitumist jälgitakse, lahendamatu probleem, kuid see nõuab koordineeritud tööd kõigil kolmel suunal.

AI võib muuta tööturgu enne, kui selle hüved laialdaselt kohale jõuavad

Gates rääkis ka majanduslikest tagajärgedest ja oma eraeksperimendist Anthropicu Claude’iga. Tema sõnul võtab AI järk-järgult üle paljud kontoritöö ülesanded, sealhulgas klienditoe, telefonimüügi ja raamatupidamise, aga ka keerukamaid töid, nagu programmeerimine, matemaatiline uurimistöö ja meditsiiniline diagnostika.

Edasine areng toob tema hinnangul hiljem kaasa füüsiliste robotite kasutuse ka sinikraede töödes. Kuna töö pakub inimestele nii sissetulekut kui ka eesmärgitunnet, võivad ühiskonnad Gatesi sõnul teadlikult jätta osa rolle inimestele isegi siis, kui AI suudaks neid paremini täita.

Gates ütles, et arutas Claude’iga inimeste osakaalu säilitamist töökohtadel ning pakkus eesmärgiks, et ligikaudu 40 protsenti tööhõivest jääks inimeste kanda. Claude vastas tema sõnul järjekindlalt, et selline piirang tähendaks AI võimekuse kunstlikku piiramist.

Ilma teadlike piiranguteta ei pruugi Gatesi hinnangul isegi 40 protsenti töökohtadest inimestele alles jääda. Ta prognoosis, et matemaatikute seas juba nähtav häiring levib teistesse valdkondadesse ning meditsiini ja madalamate elamiskulude hüved jõuavad kohale aeglasemalt kui turvalisuse ja tööturu probleemid.

Gatesi sõnul võivad need kahjud ilmneda kahe kuni kolme aasta jooksul. Isegi hästi juhitud AI areng muudab järgmised kaks aastakümmet tema hinnangul väga rahutuks: osa inimesi võtab tehnoloogia omaks, teised võivad sellest eemalduda amišitega sarnanevatesse kogukondadesse.

Ta pidas võimalikuks tulevast külluse ajastut, kuid kutsus üles avalikkust riskidest otsekoheselt teavitama ja tegema aktiivseid poliitilisi valikuid selle üle, kuidas tuleviku hüvesid jaotada. Gates ütles, et talle ei meeldi teha hirmutavaid prognoose, kuid avalikkuse hoiatamine on vajalik ning inimkonnal on endiselt võimalus otsustada, kuidas neid tehnoloogiaid juhtida.