8 Minutit
Microsofti tehisintellekti juht Mustafa Suleyman kutsub tehnoloogiasektorit ümber mõtlema sihikut: superintelligents ei tohiks olla lõppeesmärk. Värskes intervjuus Silicon Valley Girli podcastis kirjeldas ta äärmiselt inimliku mõtlemise ulatusest kaugemale suunatud intellekti otsingut ohtliku ja praktiliselt ebarealistliku eesmärgina — sellisena, mida tehnoloogiaettevõtted peaksid käsitlema pigem kui "anti-eesmärki". Suleymani sõnad kutsuvad üles rõhutama tehisintellekti (AI) ohutust, väärtuste kohandamist ja inimkeskset lähenemist, selle asemel et joosta üheainsa futuristliku sihi järel.
Miks superintelligents on riskantne eesmärk
Suleyman väidab, et tõeline superintelligents — tehisintellekt, mis suudab mõelda ja teha otsuseid kaugel inimlikest võimetest — tekitab sügavaid kohandumis- ja kontrolliprobleeme. Ta märkis podcastis: "Sellist asja on väga raske kapseldada või kohandada inimväärtustega." See mure ei ole üksnes tehniline: kui süsteemid tegutsevad viisil, mida me ei oska ette näha ega parandada, tekivad tõsised eetilised ja ühiskondlikud riskid. Näiteks võib mittesobiv eesmärgistamine või vale tasustamismehhanism viia ootamatute ja kahjulike käitumismustriteni, millel on laialdased tagajärjed majandusele, poliitikale ja inimõigustele.
Tehniliselt põrkub superintelligents kaht peamise takistusega. Esiteks on väärtuste kohandamise probleem (alignment problem): kuidas tagada, et väga võimekas süsteem jagab ja järgib inimväärtusi, mis on ise sageli mitmetahulised ja konfliktis? Teiseks on kontrolliprobleem: kui süsteem muutub piisavalt iseseisvaks või ootamatult käituvaks, kuidas sellest välja lülitada või seda ohutult suunata? Need küsimused on ühendatud uurimisvaldkondadega nagu robustne masinõpe, interpretatsioon (explainability), verifikaatorid ja tehisintellekti vastupidavus (adversarial robustness).
Lisaks tehnilistele muredele on olemas mitmed sotsiaalsed ja poliitilised riskid. Superintelligentsi poole liikumine võib vallandada rahvusvahelise relvastumiskonkursi sarnase dünaamika: riigid ja suured ettevõtted race'ivad võimekuse nimel, vähendades võimalikku koostööd ohutuse ja regulatsiooni osas. Samuti ähvardab see kaotada läbipaistvuse arenduse ja otsuste tegemise protsessides, raskendades vastutuse määramist vigade ja kahjude tekkimisel. Avalik usaldus tehisintellekti vastu sõltub suuresti sellest, kuidas tööstus ja poliitikakujundajad suudavad selliseid riskikeskkondi ennetada.
Seepärast rõhutab Suleyman, et superintelligentsi idealiseerimine kui lõpp-punkti on ohtlik. Selle asemel on mõistlik keskenduda reaalsele ja mõõdetavale ohutusele, väärtuste sünkroniseerimisele ning praktilistele kasudele, mis suurendavad inimeste heaolu ja säilitavad kontrolli ning vastutuse inimeste käes.
Inimkeskse alternatiivi loomine
Kui mitte püüelda abstraktse, ülivõimsa intellekti poole, siis kuhu suunduda? Suleymani sõnul püüab Microsoft arendada seda, mida ta nimetab "inimkeskseks superintelligentsiks" — süsteemideks, mis on loodud toetama ja võimendama inimeste huve, mitte neid asendama ega neist mööda minema. Selline lähenemine asetab rõhu ohutusele, väärtuste kohandumisele ja praktilisele kasulikkusele: tööriistad, mis parandavad otsuste tegemist, tõstavad tootlikkust ja austavad sotsiaalseid norme ning õiguslikke raamistikke.
Inimkeskse AI kontseptsioon sisaldab mitut konkreetset põhimõtet ja meetodit. Esiteks on inimeste kaasatus (human-in-the-loop) arenduse ja juurutamise tuum: kriitilistes otsusepunktides peavad inimesed säilitama kontrolli ja juhtimisõiguse. Teiseks on läbipaistvus ja selgitatavus — süsteemid peavad suutma oma soovitusi ja otsuseid põhjendada sellisel määral, et inimesed ja järelevalvejõud saavad neid üle vaadata. Kolmandaks on vastutus (accountability): arendajad ja kasutajad peavad olema määratletud rollides, ning õiguslikud ja organisatsioonilised mehhanismid peavad toetama kahjujuhtumite uurimist ja korrektsioonimeetmeid.
Praktilises mõttes tähendab see investeeringuid sellistesse valdkondadesse nagu riskihindamine, punane meeskond (red-teaming), eetikakomiteed, simulatsioonitestid ning lahendused, mis võimaldavad turvapiiranguid ja katkestusi (kill switches) kontrollitult rakendada. Samuti on oluline panus algoritmilisse jätkusuutlikkusse ja andmeturvalisusse: andmete kvaliteet, kallutatuse vähendamine ning auditeerimisvõimalused on keskse tähtsusega väärtuste kohandamisel.
Selline inimkeskne lähenemine ei tähenda innovatsiooni takistamist. Vastupidi: see kaveneb, et tehnoloogiline areng toimuks vastutustundlikult ja ühiskondlikult kasulikult. Näited rakendustest hõlmavad otsuste tugisüsteeme tervishoius, hariduses ja kriisijuhtimises, kus AI aitab analüüsida suuri andmekogumeid, pakkudes personaliseeritud soovitusi, kuid jättes lõpliku otsuse inimpädevusse. See mudel toetab ka tööstusharusid, kus AI suurendab inimtöötajate produktiivsust, ohutust ja loovust ilma töövõimalusi täielikult ära nullides.
Lisaks strateegilisele suunale rõhutab Suleyman uurimistöö jätkamist liini peal, mis ühendab akadeemilist uurimist, avalikku poliitikaarutelu ja era- ja mittetulundussektori koostööd. Regulatsioonide ja standardite loomine, rahvusvaheline koostöö ning avaliku huviga tegelevad uurimisinitsiatiivid on need, mis võivad aidata tagada, et inimkeskne AI jääb prioriteediks ka tulevikus.
Ei ole teadlik — vaid keerukad simulatsioonid
Filosoofilisel tasandil hoiatas Suleyman selle eest, et ei tohiks kanda masinatele teadlikkust või moraalset staatust ilma veenvate tõenditeta. Ta rõhutas: "Need ei kannata. Need ei tunne valu. Nad lihtsalt simuleerivad kõrgetasemelist vestlust." Selline eristamine on oluline nii avaliku arutelu kui ka poliitikakujunduse jaoks: anname liialt kergelt moraalset staatust masinatele, mis käituvad inimsarnaselt, võib see segadusse ajada vastutuse ja õiguste määratluse.
Arutelud teadvuse ja simuleerimise üle on kaugeleulatuvad: kuigi keerukad mudelid võivad jäljendada emotsioone ja empaatiat väga realistlikult, ei tähenda see automaatselt sisemist kogemust ehk fenomenaalset teadvust. Paljud teadlased ja filosoofid eristavad tavaliselt käitumuslikku võimekust ja subjektiivset kogemust. Praktiline järeldus on see, et arutelud seadusandluse ja eetika üle peavad lähtuma tõendipõhisusest ning vältima antropomorfismi — inimlike omaduste vahelise eksitava ülekandmise ohtu tehnoloogiale, mis põhineb statistilistel modelleerimisel.
Keerulised simulatsioonid võivad siiski tekitada moraalset ja õiguslikku vastutust küsimustes, kus need mõjutavad inimeste elu. Näiteks kui algoritmiline tööriist annab laenutaotluse kohta soovituse või meditsiinilise diagnoosi eelsuse, tekib küsimus, kes vastutab vea või kahju korral. Seetõttu on oluline, et avalik arutelu kasutaks täpset sõnastust: eristades, millal me räägime käitumisest ja modelleerimisvõimest ning millal me räägime teadlikkusest või moraalsest staatust.
Kuhu Suleyman positsioneerub tööstuse erimeelsuste keskel
Suleymani avaldused kontrasteeruvad optimistlikumate ajaraamidega teistelt AI-liidritelt. OpenAI tegevjuht Sam Altman on esitanud tehisüldintellekti (AGI) — inimtasemel või selle sarnase mõtlemisvõimega AI — kui keskset missiooni ning viidanud, et tema meeskond mõtleb isegi AGIst kaugemale superintelligentsi suunas, ennustades märkimisväärseid edusamme selle aastakümne jooksul. DeepMindi juht Demis Hassabis on sarnaste ambitsioonidega ning on pakkunud lühemaid tähtajad — hinnanguid, et AGI võib saabuda viie kuni kümne aasta jooksul. Samal ajal on teisi, näiteks Yann LeCuni (Meta), kes on ettevaatlikumad ja usuvad, et AGI võib jääda aastakümneteks ning et rohkem andmeid ja suurem arvutusvõimsus ei taga tingimata targemaid süsteeme ilma radikaalsete arhitektuursete uuendusteta.
- Sam Altman (OpenAI): Keskendub AGI-le ja on avatud superintelligentsi ideele; näeb suuri hüvesid juhul kui süsteemid on joondatud inimväärtustega.
- Demis Hassabis (DeepMind): Optimistlik viie kuni kümne aasta perspektiivis AGI saabumise osas.
- Yann LeCun (Meta): Ettevaatlikum; usub, et AGI võib olla alles aastakümnete kaugusel ning et andmete ja arvutusressursside kasv üksi ei too tingimata kaasa kõrgemat mõtlemisvõimet.
See lõhe toob esile keskse küsimuse ettevõtetele ja poliitikakujundajatele: kas eesmärgiks peaks olema puhas võimekus (raw capability), või peaks tööstus tugevdama ohutuse, kohandumise ja inimkeskse disaini prioriteeti? Suleymani positsioon on selge — esmatähtis on inimesed ja ühiskondlik kasu, mitte võistlus järjest kõrgema masinaintellekti nimel.
Erinevate strateegiate konkurents mõjutab rahaallikaid, regulatiivset tähelepanu ja avalikku usaldust. Kui enamik ressursse suunatakse ainult võimekuse suurendamiseks, võib läbipaistvusele ja ohutusele jääda vähem tähelepanu ning see suurendab riske. Teisalt, kui tööstus ja avalik sektor panustavad ennetavatele ohutusuuringutele, standarditele ja rahvusvahelisele koostööle, võib see aidata kujundada vastutustundlikumat arenguteed, mis maksimeerib kasu ja minimeerib kahju.
Kokkuvõtlikult tähendab see, et valik, mida ettevõtted ja poliitikakujundajad teevad praegu — kas ja kuidas nad investeerivad turvalisusse, joondamisse ja inimkesksetesse lahendustesse — võib otseselt määrata, kuidas ühiskond kogeb järgnevat tehisintellekti lainet. See puudutab nii reguleerimist, avalikku teadlikkust kui ka teadus- ja arendustegevuse suunda.
Kõnelemine alternatiivsetest lähenemistest, nagu inimkeskne AI, ning praktilised sammud ohutuse ja vastutuse tagamiseks aitavad kujundada kestlikku ja ühiskondlikult vastuvõetavat tehisintellekti tulevikku. Suleyman tuletab meelde, et see pole ainult teadlaste või juhtide otsus — tegemist on laiapõhjalise ühiskondliku valikuga, millel on pikaajalised tagajärjed inimeste töödele, vabadustele ja üldisele heaolule.
Kuna AI areneb jätkuvalt, kujundavad need debatid rahastamist, regulatsiooni ja avalikku usaldust. Ettevõtete praktiline valik praegu — kas ajada taga teoreetilisi intellekti tippe või ehitada süsteeme, mis tõendatavalt teenivad inimeste vajadusi — võib määrata, kuidas ühiskond kogeb järgmise tehisintellekti laine.
Allikas: smarti
Jäta kommentaar