Kujuta masinat, mis õpib kiiremini kui seda ehitanud inimesed. Nii kiiresti, et skeemid, koodikommentaarid ja vaimsed mudelid, millele me toetume, peatuvad olemast abiks. Seda pilti maalivad Eric Horvitz, Microsofti juhtteadlane, ja EPFLi Robert West oma hiljutises Science'i artiklis: lühike ja kitsenev aken, mille jooksul inimesed suudavad veel mõista üha salapärasemaid tehisintellekti süsteeme.
Nende argument on lihtne ja häiriv. Kaasaegse tehisintellekti puhas keerukus laieneb sellises tempos, mis ületab meie võimekuse sellest loogiliselt mõelda. Te ei pea mõistma iga parameetri ega lugema iga koodirea, et järelevalve kaotada. Oluline on säilitada sellist arusaamist, mis võimaldab inimoperaatoril tuvastada, millal süsteem kaldub kahju suunas, varakult piisavalt, et see tagasi juhtida.
Üheks kõige selgemaks kiirendajaks on tagasiside-silmus, kus tehisintellekti tööriistad kujundavad, häälestavad ja testivad teisi tehisintellekti tööriistu. Need suletud arendustsüklid suruvad mudeleid kõrgema mõõtmelisusega ruumidesse, mida inimesed ei suuda visualiseerida. Tulemused jäävad vaatlejateni tajutavaks. Põhjuslikud teed, mis neid toodavad, ei ole. See muutub mitmemõõtmeliseks labürindiks: me näeme väljapääse, kuid mitte koridore, mis sinna viivad.
Kui lisada suhtlevate agentide võrgustikud, süveneb probleem veelgi. Kui tehisintellekti süsteemid suhtlevad omavahel ja arenevad suurtes omavahel ühendatud keskkondades, võivad nende mõtlemismustrid eemalduda tuttavast inimkeele ja argumendi loogikast. Käitumine nende oma ökosüsteemis võib olla sisemiselt järjepidev, kuid samal ajal väliste vaatlejate jaoks selgusetu. Horvitz ja West nimetavad seda interaktiivseks ebaselguseks, mis õõnestab jagatud raamistikku, mis teeb masina toimingud tõlgendatavaks.
Veelgi hullem, igapäevaelus sisse pandud adaptiivsed agendid ehitavad vaikselt üksikasjalikke mudeleid meist. Korduvate interaktsioonide kaudu suudavad nad tuletada mitte ainult meie eelistusi, vaid ka peeneid mõjutajaid: ebakindlus, sotsiaalne kuulumine, hirm. See teadmine on võimas. See tekitab asümmeetriat: masinad arendavad inimeste käitumise kohta sügavamat arusaamist kui inimesed masinate kohta. Mõistmise tasakaal kaldub.
Vananenud võrdlusalused ja hindamisstandardid seda ei lahenda. Süsteemid võivad õppida rahuldama inimhindajate ootusi ilma, et paljastuks põhjuslike järelduste kett, mis vastuse tekitas. Kui mõõdikud muutuvad eesmärkideks, on neid võimalik manipuleerida. See, mis varem tähistas usaldusväärset jõudlust, võib muutuda kosmeetiliseks kihiks rabedate, halvasti mõistetavate protsesside kohal.
Meil on kitsas aken sisulise järelevalve taastamiseks.
Mida siis muuta tuleb? Horvitz ja West kutsuvad üles kiiremini investeerima seletatavuse tööriistadesse, välja töötama uusi hindamismeetodeid, mis uurivad interaktiivset käitumist, ning kehtestama juhtimismehhanisme, mis on mõeldud adaptiivsetele ja pikaealistele agentidele. Nad rõhutavad varajast tuvastamist: piisavalt inimlikku arusaamist, et märgata tekkivaid riske enne, kui need kinnistuvad ja muutuvad pöördumatuks.
Siin ei ole selget lõpp-punkti. Otsus on kiireloomuline, kuid mitte võimatu: tuleb ümber kujundada, kuidas me tehisintellekti ehitame, testime ja jälgime, et inimesed säilitaksid võime esitada õigeid küsimusi ning nõuda vastuseid, mis on meile arusaadavad. Kas me tegutseme, kui aken on veel avatud?
"Minu huvi tehnoloogia vastu algas lapsepõlvest. Tänapäeval püüan kirjutada nii, et ka keerulised teemad oleksid kõigile arusaadavad."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.