Kujutage ette, et palute oma otsinguabiliselt kiiret fakti ja saate vastu makabrise kuulujutu: Donald Trump olevat sel kuul surnud marutaudi tõttu. Absurdne. Šokeeriv. Vale.
Selline pealkiri ilmus mõnele kasutajale pärast suhtlust DuckDuckGo tehisintellektiga, mis väitis, et Trump oli marutaudi käes surnud, ja viitas tõendina näiliselt kohaliku WKNA Newsi artiklile. Võlts lugu läks veel kaugemale: väideti, et J.D. Vance hammustas Trumpi Robert F. Kennedy Jr. nõuandel, kes olevat väitnud, et marutaud annaks erakordseid võimeid. Assistent viitas ka ABC Newsi raportile Ohiost pärit marutaudijuhtumi kohta, mis oli tõeline lugu, kuid ei sisaldanud Trumpiga mingit seost.
Miski sellest ei osutu tõeks. Trump ja Vance on elus. Robert F. Kennedy Jr. on varem esitanud vastuolulisi tervisealaseid väiteid, kuid ta pole kunagi soovitanud kellelgi otsida marutaudi nakkust tervise parandamiseks. WKNA artikkel, millele tehisintellekt viitas, näib olevat vale või tugevalt manipuleeritud meediumikild, mis on veebis levitatud. DuckDuckGo ei ole kirjutamise hetkel esitanud avalikku selgitust.
Kuidas suutis tehisintellektil põhinev otsinguvahend need elemendid kokku panna veenvaks, kuid täiesti valeks narratiiviks? Vastus on segane ja inimtekkeline. Halbade kavatsustega isikud ja veebitrollid loovad väljamõeldud postitusi, kleebivad neid tagasihoidlikesse saitidesse ja foorumiteemadesse ning lasevad otsingumootoritel need üles korjata. Tõmbemudelid, mis toetavad otsingu-põhiseid tehisintellekte, võivad need killud seejärel leida, kokku panna ja esitada enesekindla kõlaga vastuse ilma konteksti või kontrollita, mida nõuaks inimtoimetaja.
On veel üks komponent: paljude vestlussüsteemide koolitus- ja päringudieet sisaldab tohutut hulka kasutajate loodud sisu. Reddit, kommentaaride osad ja marginaalsed blogid toovad sageli esile varajast ja kontrollimata materjali. Kui rühmad koordineerivad tegutsemist, olgu selleks vemp või pahatahtlikkus, võivad nad mudelit suunata valeinfole, luues tõendit meenutava jälje, mis automatiseeritud allikaotsijale näib usutav.
Need süsteemid on loodud olema abivalmid ja vastama kiiresti. See kiirus on omadus, aga ka risk. Mudelid ei tunne skeptilisust ega kontrolli, kas kohalik väljaanne oli võltsitud või kas agregaatore on pealkirja valesti omistanud. Nad sünteesivad. Mõnikord muutub see süntees hallutsinatsiooniks: veenvana kõlav väide ilma faktipõhjata.
See juhtum rõhutab lihtsat tõde: otsingu-tehisintellektidel on enne nende väljundite faktina käsitlemist vaja allikapärandit, usaldusnäitajaid ja inimjärelevalvet.
Lugejate jaoks on ohutusmeetmed tuttavad, kuid neid tasub korrata. Otsige kinnitust usaldusväärsetest väljaannetest. Järgige allikaviiteid tagasi originaalse reportaaži juurde. Olge ettevaatlik sensatsiooniliste väidete suhtes, mis ilmuvad väikestel või äsja loodud saitidel. Kui otsinguassistent esitab viite, avage see; ärge eeldage, et assistent on teie eest selle kontrollinud.
Platvormimeeskondade jaoks on tee edasi nii tehniline kui organisatoorne. Parandage päringufiltreid, et madala kvaliteediga domeene madalamalt hinnata. Kuvage allikapärand, et kasutajad teaksid, millist allikat tehisintellekt kasutas. Lisage automatiseeritud kontrollid, mis märgistavad ebatõenäolisi väiteid ja suunavad need inimjärelevalvele. Lõpuks investeerige kiirparandusmehhanismidesse, kui midagi tõestatavalt valet hakkab levima.
Tehisintellekt muutub aina targemaks. Nii muutuvad targemaks ka need, kes püüavad seda petta. Kes võidab, sõltub vähem mudelitest ja rohkem süsteemidest ja tavadest, mida me nende ümber ehitame, ning sellest, kas kasutajad jätkavad ühe olulise küsimuse esitamist: kust see pärineb?
"Ma kirjutan tehnikauudiseid, sest usun, et innovatsioon algab teadmiste jagamisest. Hea artikkel võib panna kedagi teist midagi uut looma."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.