WSJ: Jaan Tallinn hoiatab tehisintellekti ohtude eest

USA väljaanne The Wall Street Journal kirjeldab eestlasest miljardäri Jaan Tallinna aastaid kestnud tegevust tehisintellekti kiire arenguga seotud ohtude teadvustamisel. Samal ajal on Tallinn investeerinud tehisintellekti ettevõtetesse, lootes seeläbi arendajate otsuseid mõjutada.

WSJ teatel viibis Tallinn möödunud nädalal New Yorgis ÜRO peaassambleel, kus ta rääkis tehisaru kiire arenguga seotud riskidest. Anthropicu varajase investorina võib ta teenida ettevõtte võimaliku börsilemineku korral lähikuudel miljardeid dollareid.

Tehisintellektiga seotud mure oli üks põhjuseid, miks Tallinn Anthropicusse investeeris. Ta on tehisintellekti ohutuse tähtsust rõhutanud rohkem kui kümme aastat. Teema pälvis hiljuti suuremat tähelepanu, kui Anthropicu teadlane Jacob Coxon lahkus ametist ja hoiatas, et tehisintellekt võib kontrolli alt väljuda.

"Kahjuks usun, et me ei võta seda ohtu piisavalt tõsiselt ja osaleme võidujooksus sellise tehnoloogia loomise nimel, mis võib inimkonna hävitada," ütles Tallinn oma avalduses.

"Kui rohkem inimesi nõuab õigust mõista riske ja võtab sõna selle tehnoloogia hoolimatu arendamise ohtude teemal, on meil ja meie lastel paremad võimalused ellu jääda," lisas ta.

Tallinna muretsema panevad tehisintellektilaborite vaheline võidujooks, USA ja Hiina konkurents ning tehisintellekti kasvav võime end ise täiustada. Ta on hoiatanud ka äärmuslike stsenaariumide eest, näiteks selle eest, et tehisintellekti andmekeskused võivad hõivata põllumajandusmaad ja põhjustada ulatusliku näljahäda või et insenerid võivad muuta Maa atmosfääri inimestele elamiskõlbmatuks.

Tallinna sõprade ja kolleegide sõnul leiab ta, et kui tema poleks Anthropicusse investeerinud, oleks tema koha võtnud investor, kes ohutusele vähem tähelepanu pöörab. Väidetavalt loodab Tallinn investeerida tehisintellekti ettevõtetesse, teenida sealt tulu ja suunata raha tehisintellekti ohutust toetavatele mittetulundusühingutele.

Tehisintellekti ohutuse kogukond on lõhenenud küsimuses, kas ohutut arendust edendavad paremini tehnoloogiat arendavates ettevõtetes töötavad inimesed või sõltumatuid ohutusuuringuid toetavad organisatsioonid.

"Kõik head ja andekad insenerid, kes seda ohtu tajuvad, peavad põhimõtteliselt tegema valiku," ütles Tallinna investeerimisfirma Metaplanet kaasjuht Rauno Miljand. "Kas joosta varjendisse ja püüda veeta võimalikult palju aega lähedastega või siis püüda protsessi mõjutada ning suurendada inimkonna ellujäämise tõenäosust."

Praegu 54-aastane Tallinn kasutas esimest korda arvutit 14-aastaselt. Pärast teoreetilise füüsika kraadi omandamist aitas ta luua failijagamisprogrammi Kazaa. Sellele järgnes 2000. aastate alguses Skype, mille Microsoft ostis hiljem 8,5 miljardi dollari eest.

2008. aastal tutvus Tallinn tehisintellekti uurija Eliezer Yudkowsky töödega. Yudkowsky juhib tehisintellekti ohtude eest hoiatavat niinimetatud ratsionalistide kogukonda ning on tuntud tehisintellekti joondamise teemal kirjutatud tööde poolest.

Yudkowskyga suheldes veendus Tallinn tehisintellekti ohtudes ning temast sai tehisintellekti ohutusega tegelevate organisatsioonide suurrahastaja. Eesti rikkaimaks inimeseks peetava Tallinna varanduseks hinnatakse 12 miljardit dollarit. Tema enda avaldatud annetuste nimekirja järgi on ta toetanud tehisintellekti ohutuse algatusi umbes 170 miljoni dollariga.

2011. aastal võttis Tallinn tehisintellekti ohtude arutamiseks ühendust heategevust hindava organisatsiooni GiveWell kaasasutaja Holden Karnofsky ja seal töötanud Dario Amodeiga. Amodei juhtis hiljem Anthropicu loomist.

Samal aastal peetud telefonivestluses tegi Tallinn sünge ennustuse, mille poolest ta nüüdseks tuntud on. GiveWellist välja kasvanud organisatsiooni Coefficient Giving avaldatud vestluse stenogrammi kohaselt ütles Tallinn: "Hindan tehisaru põhjustatud katastroofis suremise tõenäosust kahekohalise protsendiga. Minu jaoks on see justkui pommi kahjutuks tegemine."

Amodei polnud selles sama kindel. "See pomm võib olemas olla, aga ei pruugi," vastas ta. "Võib-olla need samad tegevused, mida me seostame pommi kahjutuks tegemisega, on just need, mis pommi kõige tõenäolisemalt plahvatama panevad." Erinevustest hoolimata jäid Amodei ja Tallinn suhtlema.

Tallinn jätkas investeerimist. Ta toetas varajases arengujärgus tehisintellektilaborit DeepMind ning kuulus selle nõukokku, enne kui Google ettevõtte 2014. aastal omandas.

"DeepMindi puhul ei tahtnud asutajad teda tegelikult kuulata ja ei kuulanudki," ütles DeepMindist rääkiva raamatu "The Infinity Machine" autor Sebastian Mallaby. "Tal ei õnnestunud protsesse kuidagi mõjutada."

DeepMindi edu andis Tallinnale siiski rohkem kaalu. Metaplaneti investeeringud on aja jooksul laienenud ning hõlmavad nüüd Elon Muski ettevõtet xAI, Boring Companyt ja nutisõrmuseid tootvat Oura’t, mis plaanib samuti börsile minna.

Sõprade ja kaasinvestorite seas on Tallinn kinnistanud oma maine inimesena, kes väljendab oma muresid sageli ja avalikult. 2021. aastal, vahetult pärast seda, kui Amodei ja mitu teist teadlast lahkusid ohutuskaalutlustel OpenAI-st ning asutasid Anthropicu, nõustus Tallinn juhtima 124 miljoni dollari suurust investeerimisvooru. Andmeettevõtte PitchBook andmetel hinnati noore idufirma väärtuseks toona 461 miljonit dollarit.

Intervjuudes on Tallinn öelnud, et toetas Anthropicut lootuses, et tema seisukohti võetakse kuulda ettevõttes, kus arendatakse potentsiaalselt ohtlikku tehnoloogiat. Ettevõtte kasvades jäi üksikaktsionäri hääl siiski üha nõrgemaks, tõdes Tallinn tänavu Manifoldi taskuhäälingus.

Miljand on enda sõnul püüdnud välja mõelda, kuidas kasutada Anthropicu võimaliku börsileminekuga teenitavat tulu inimkonna hüvanguks. Eeldatav tulu võib ulatuda üle kahe triljoni dollari.

Kui Anthropicul ei peaks edu olema, oleks Miljandi sõnul temal ja Tallinnal siiski põhjust tähistamiseks. "Kui selgub, et Anthropic ebaõnnestub ja selle väärtus langeb nulli, on see tegelikult hea asi. See tähendab, et me ilmselt ei jõudnud tehisliku superintellektini ehk ASI-ni ja inimkond ostis endale lihtsalt lisaaastaid," ütles Miljand, viidates inimesest võimekamale tehisintellektile.

"Selles olukorras on mõlemad variandid võidukad," märkis ta.