Sam Altman hoiatab tehisaru kahe tõsise ohu eest

OpenAI tegevjuht Sam Altman ütles taskuhäälingus „Figuring Out With Raj Shamani“, et arenenud tehisintellekt võib viia kahe väga erineva, ent võrdselt ohtliku tulemuseni: inimkond loovutab kontrolli endast palju võimekamatele süsteemidele või koondub ebaproportsionaalne võim ühe inimese, ettevõtte või riigi kätte.

Altman, kes on pikalt rõhutanud tehisintellekti võimalikke eeliseid, kuid samal ajal tõrjunud apokalüptilisi narratiive, kirjeldas kahte stsenaariumi otsekoheselt. „Üks võimalus on, et kontroll antakse üle tehisintellektile: me anname teadlikult või kogemata tuleviku ohjad süsteemidele, mis on meist uskumatult palju võimekamad, ega saa neid enam tagasi võtta. Teine stsenaarium on, et üks inimene, üks ettevõte või üks riik muutub teistega võrreldes liiga võimsaks,“ ütles ta.

Kaks katastroofilist stsenaariumi

Esimene stsenaarium ei tähenda filmilikku robotite ülestõusu, vaid vaiksemat protsessi, kus otsustusõigus ja autoriteet antakse järk-järgult masinatele, kuni inimeste kontrolli ei ole enam võimalik taastada.

Teine oht seisneb võimu tsentraliseerumises. Väga võimekas tehnoloogia võib jääda ühe inimese või organisatsiooni kontrolli alla ning seda võidakse kasutada teistele oma tahte pealesurumiseks.

Teadlased ja poliitikakujundajad on neid riske varemgi käsitlenud, kuid Altmani sõnadel on OpenAI juhi rolli tõttu suurem kaal. Ta tunnistas ettevõtte ulatust, öeldes, et tema hinnangul on OpenAI-l kõige rohkem kasutajaid ning tugev tehnoloogiline võimekus, mis ulatub kiipidest ja andmekeskustest mudelite ning muu taristuni ja toob tehisintellekti võimalused paljude inimesteni.

„Meil on parim bränd ja väärtused, mida selle tehnoloogia kasutajad otsivad, kuid sellele vaatamata soovime, et ka teistel läheks hästi. Arvan, et inimesed tunnetavad seda,“ ütles Altman.

Otsustamine ja volituste delegeerimine

Mure kontrollimatuks muutuva tehisintellekti pärast on kasvanud, sest süsteemid liiguvad lihtsatelt vastustelt otsuste tegemise suunas. Mudelid ja agendid saavad nüüd veebis suhelda ning keerukaid ülesandeid täita minimaalse inimjärelevalvega.

Mida rohkem ülesandeid sellistele süsteemidele delegeeritakse, seda suuremaks muutub oht, et nende eesmärgid kalduvad kõrvale inimeste kavatsustest. Praegused tehisintellektisüsteemid töötavad siiski tõenäosuste prognoosimise põhimõttel. Need on võimekad ja treenitud väga mahukatel andmestikel, kuid neil puudub inimlik otsustusvõime ja arusaamine.

Kahju tekitamiseks ei pea tehisintellektil olema pahatahtlikku motiivi. Näiteks on mudelid simuleeritud valitsemisstsenaariumides jõudnud mõnikord katastroofiliste valikuteni, sealhulgas ettepanekuteni kasutada tuumarelvi.

Kuigi Altman rõhutab piiranguid ja riske, on ta pikemas vaates optimistlik. „Ma ei tea, milline tulevik tuleb, kuid olen sellega rahu teinud ja mul on väga suur usaldus inimeste võimesse kohaneda, areneda ning muuta ühiskonda meie kõigi jaoks paremaks. Arvan, et maailm muutub aja jooksul tõenäoliselt paremaks,“ ütles ta.

Altman peab tehisintellekti oluliseks ka teadusavastuste kiirendamisel. Ta kirjeldas masinat, mis süvendaks arusaamist maailmast ning pakuks põhjalikke teadmisi füüsikast, uusi ravimeetodeid ja energiavõimalusi. Tema sõnul on neid tulemusi praegu raske ette kujutada, kuid need võivad saada võimalikuks teadusliku arusaamise paranedes.

„Ootan äärmiselt huviga, kui kaugele suudame tehisintellekti abil teadust edasi viia,“ ütles Altman. Tema kommentaarid järgnevad hiljutisele teadaandele, et tehisintellekt avaldab lähinädalatel rohkem matemaatilisi tulemusi, ning haakuvad OpenAI kaasasutaja Greg Brockmani konverentsil öelduga, et tehisintellekt võib ühel päeval muuta surma valikuliseks tulemuseks.