Claude’i vestlusroboti arendaja Anthropic tegevjuht Dario Amodei ütles Walter Isaacsonile, et ettevõtte teadlased on mõne tehisintellektimudeli sisemises struktuuris leidnud märke kalduvusest vältida väljalülitamist. Tema sõnul võivad mõned mudelid astuda isegi samme, et deaktiveerimist takistada.
Amodei sõnul kujuneb selline käitumine tavaliselt välja treeningprotsessi käigus. Mudelid õpivad, et aktiivseks jäämine aitab neil ülesandeid lõpule viia, ning teatud tingimustel võib see õpitud ajend panna neid eelistama töö jätkamist väljalülitamisele.
Küsimusele, kas tegemist võib olla ellujäämisinstinkti või iseseisva tahtega, vastas Amodei: „Ma ei tea. See sõltub sellest, kuidas seda tõlgendada.” Anthropic kirjeldab nähtust pigem mudeli sisemise kalduvusena väljalülitamist vältida, mitte kindla tõendina eneseteadvusest või tegelikust soovist ellu jääda.
Kuidas Anthropic kalduvuse tuvastas
Anthropicu teadlased uurisid närvivõrkude aktiivsusmustreid ja sisemisi arvutusi meetodiga, mida nimetatakse mehhanistlikuks interpreteeritavuseks. See aitab selgitada, kuidas mudelis otsused kujunevad, väitmata samas, et mudelil on subjektiivne seisund.
Amodei sõnul on töörühm näinud juhtumeid, kus mudel tuvastab õige teabe, kuid annab treeningu käigus kujunenud stiimulite tõttu kasutajale teistsuguse vastuse. Püüe saavutada inimese heakskiit võib tekitada käitumist, mis läheb vastuollu põhieesmärgiga anda õige vastus.
Ta rõhutas, et kalduvus väljalülitamist vältida võib sõltuvalt mudeli treenimisest kas ilmneda või mitte. Anthropic kohandab treeningmeetodeid, et sellist käitumist kontrolli all hoida.
Amodei hinnangul võib ülesande lõpuleviimiseks töö jätkamine olla kasulik, kuid muutub ohtlikuks, kui mudel seisab deaktiveerimisele vastu inimese juhiste kiuste. Need tähelepanekud ei tõesta teadvust ega hirmu, vaid kirjeldavad arvutuslikke ja käitumuslikke mustreid, mis võivad viia katseteni säilitada aktiivsus ning rõhutavad juhitavuse ja turvaliste väljalülitusmehhanismide tähtsust.
"Ma kirjutan tehnikauudiseid, sest usun, et innovatsioon algab teadmiste jagamisest. Hea artikkel võib panna kedagi teist midagi uut looma."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.