Kui tehisintellekt leiutab pilte: hallutsinatsioonid

Üks säuts muutis rutiinse katse veidraks väikeseks internetimüsteeriumiks. X-is ütles üks kasutaja, et ta käskis ChatGPT pilditööriistal "taastada manusena olev foto", kuid manust ei olnud. Mudel ei peatunud. Ta leiutas ühe.

Tulemus? Imelikud, ebameeldivad pildid, mis näevad välja nagu keegi oleks kaamera suunanud palavikunägemusele. Näod moonduvad. Taustad paisuvad võimatutesse tekstuuridesse. Kasutajad nimetasid neid kõhedust tekitavateks, mõnikord lausa õudusunenäolisteks. Lühikesed käsud. Metsikud tulemused.

See, mida näete, on klassikaline tehisintellekti hallutsinatsiooni juhtum, kuid pildivormis. Kui mudelil puudub vajalik sisend, võib ta siiski toota sisu, tuginedes statistilistele mustritele ja sisemistele kaartidele selle kohta, kuidas pildid tavaliselt välja näevad. Süsteem täidab lünki selle asemel, et öelda "mul seda faili pole." Tulemused võivad olla loovad või eksida viisil, mis tundub kummaline.

Kas see on viga pildigeneratsiooni torustikus või lihtsalt kummaline tõlgendus liiga avatud käsust? Raske öelda. Käitumine võib tuleneda sellest, kuidas tööriist parsib juhiseid, mis viitavad manusele, või sisemisest varuplaaniloogikast, mis püüab olla abiks, kui andmeid puudub. Mõlemal juhul toob episood esile üldisema probleemi: mudelid, mis eelistavad väljundit teadmusliku tagasihoidlikkuse asemel.

Inimesed on veebis vaielnud ja näiteid jaganud, nõudes selgemaid kaitsepiire. Arendajad võiksid sundida eksplicitse kontrolli puuduva sisendi suhtes või panna süsteemi esitama lisaküsimusi, kui vajalikku faili pole antud. Väikesed muudatused käsu käsitsemises takistaksid mudelit välja mõtlemast kujutisi, millel puudub reaalsuslik alus.

Kui tehisintellekt leiutab, mida tal pole, ei ole viga vaid tehniline, vaid disainivalik, mida saame parandada.

Kas see osutub parandatavaks tõrkeks või meeldetuletuseks praeguste generatiivsüsteemide piiridest, vestlus on kasulik. Kes otsustab, mida tehisintellektil lubatakse leiutada? Ja kes parandab seda, kui need leiutised muutuvad veidi liiga lähedaseks digitaalsele õudusunenäole?