Miks keelemudelid ei asenda inimliku geeniuse hüpet

Kujutle Albert Einsteini üksi mõttekatses. Ta kujutab end ette suletud liftis, vabalangemas läbi ruumi, ja sellest vaikivast vaimsest pildist tuletab ta välja võrrandid, mis kirjutavad ümber füüsika. See hetk, puhas intuitsioon, sensoorsete kujutluste jõud, hüpe peaaegu ilma andmeteta, on loomepõhine hüpe, mida tänased keelemudelid rasketi matkivad.

Miks tekstimeri ei võrdu elatud maailmaga

DeepMindi teadlane Tom Zahavy ütles seda otseülekandes analüüsis pealkirjaga 'keelemudelid ei saa hüpata'. Tema argument jagab mõtlemise kolmeks režiimiks: induktsioon, deduktsioon ja hüpoteeside genereerimine. Kaasaegsed mudelid on esimesega väga head. Nad tihendavad mägesid mustreid ja suudavad järgmist lauset uskumatul täpsusel ennustada. Täiustatud süsteemid saavad ka deduktsiooniga hakkama; automatiseeritud järeldusvahendid, sh projektid nagu AlphaProof, näitavad, et masinad võivad loogilisi ketti järgida, kui reeglid on antud.

Aga kui jutt on hüpoteeside genereerimisest, tegevusest, kus peaaegu olematu empiirilise sisendi põhjal loodakse uus raamistik, komistavad masinad. Miks? Sest neil puudub keha maailmas ja neil puudub sensoorsusintuitsioon, mida inimesed kasutavad põhjuslike seoste loomiseks. Sa ei saa tuletada Einsteini algseid eeldusi ainult olemasolevate tekstide analüüsimise kaudu. Tema taipamine tekkis kehastunud metafooridest ja sensoorsetest mõttekatsetest, mitte kirjanduses leiduvate statistiliste mustrite sobitamisest.

Mõned mõtlejad, näiteks Jürgen Schmidhuber, on varem teaduslikku avastust kirjeldanud kui äärmuslikku andmete tihendamist. DeepMind lükkab selle positsiooni ümber. Artiklis märgitakse, kuidas revolutsiooniline teooria sageli sünnib andmepuuduses kontekstis, toetudes vastupidistele stsenaariumidele ja elavale kujutluslikule sünteesile. Keelemudelid, mis on treenitud retrospektiivsete mustrite põhjal, harva leiutavad uusi ontoloogiaid, mis ümbermõtestavad maailma mõistmist.

Sel on praktilised tagajärjed. Praegused AI koodikirjutamise ja automatiseeritud avastamise tööriistad jäävad piiratuks eelseatud raamistikku. Nad suudavad optimeerida olemasolevate raamiste piires. Neil on raske raamistikku ennast ümber joonistada. Ja ükski lisaarvutus, suuremad andmekeskused või tihedam treening ei anna automaatselt sellist põhjuslikku intuitsiooni, mis toetab radikaalseid teaduslikke hüppeid.

Mida see tähendab uurimistöö ja tööstuse jaoks? See seab ootused uutesse raamidesse. Keelemudelid on võimsad kaaslased mustrirohketes ülesannetes, dokumenteerimises, hüpoteeside täpsustamises ja võimalike lahenduste uurimises. Nad täiustavad, mitte ei asenda, inimlikku sädet, mis leiutab küsimused ja kontseptuaalsed tööriistad. Teisisõnu: sobivad suurepäraselt tugevdustööks. Veel ei ole valmis algatama revolutsioone.

Arvutuslik ulatus ei asenda kehastunud arusaama, inimlik kujutlus teeb endiselt hüppe.

Edasimineku tee on avatud. Hübriidmeetodid, mis seovad mudeleid andurite, katsete ja interaktiivsete keskkondadega, võivad seda lõhet vähendada. Kuid kuni masinad ei omanda paiknevat arusaamist ja tekstiülesest põhjuslikku intuitsiooni, jäävad kõige julgemad teaduslikud ideed inimmeelte valdusse.