3 Minutit
See hiline sõnum, mille sa ChatGPT-sse saatsid, näiteks stressi, lahkumineku või kummalise sümptomi kohta, ei pruugi olla nii kahjutu kui tundub. TechXplore'i vahendatud uuringu järgi võib vestlusajalugu paljastada midagi palju isiklikumat kui ühekordne küsimus. See võib avaldada sinu isiksuseomadused.
ETH Zurichi meeskond koolitas tehisintellekti süsteemi 62 090 reaalse ChatGPT vestluse näitel 668 kasutajalt. Need osalejad täitsid ka standardse isiksusehinnangu, mis andis uurijatele võrdluspunkti. Seejärel paluti mudelil liigitada kasutajad madalasse, keskmisse või kõrgesse kategooriasse viie peamise isiksusetunnuse suhtes: avatus, kohusetundlikkus, ekstravertsus, sõbralikkus ja neurootilisus.
Huvitav ei olnud see, et mudel mustreid leidis, vaid see, kui usaldusväärselt ta seda tegi. Mudel ületas juhusliku ennustamise kõigi tunnuste puhul, kusjuures kõige lihtsamini tuvastatav oli ekstravertsus. Selles kategoorias oli ennustuse täpsus kuni 44% kõrgem kui juhusepõhine tulemus.
See, millest inimesed rääkisid, mängis rolli, kuid mitte alati ilmselgelt. Vestlused vaimse tervise teemadel andsid kõige selgemaid vihjeid ekstravertsuse kohta. Religioossed arutelud osutusid eriti kasulikuks kohusetundlikkuse järeldamiseks. Rääkimised meeleolu ja vaimse seisundi teemadel muutsid avatuse ennustamise lihtsamaks. Isegi igapäevased vahetused, need, mida enamik kasutajaid peab rutiinseks või unustatavaks, kandsid piisavalt käitumuslikku signaali, et aidata profiili koostada.
Mida sagedamini keegi ChatGPT-d kasutas, seda kergemaks muutus see profiilide koostamine. See osa võib muret tekitada nii privaatsuskaitsjate kui tavaliste kasutajate seas. Vestlusrobotid ei vasta ainult küsimustele. Aja jooksul võivad nad muutuda peegliteks, mis peegeldavad harjumusi, emotsionaalseid mustreid ja isiklikke kalduvusi tagasi neile, kellel andmetele juurdepääs on.
Ei ole ainult laborikatse
See on oluline kaugelt enamat kui akadeemiline uudishimu. Teenusepakkujate käes on juba tohutud vestlusandmete kogud, ja mahtu on raske eirata. Kui ChatGPT-l oli teadaolevalt üle 800 miljoni igakuise kasutaja 2026. aasta jaanuariks, ei ole massilise isiksuseprofiliseerimise potentsiaal enam teoreetiline.
Vestlusroboti ajaloo põhjal koostatud profiili võidakse kasutada pealtnäha kasulikul viisil, näiteks personaliseerimiseks või soovituste häälestamiseks. Samas võib see libiseda ka midagi pealetükkivamasse: reklaamisihtimine, mis arvestab emotsionaalset haavatavust, mõjutav sõnumside, mis on kohandatud psühholoogilistele tunnustele, või mõjutuskampaaniad, mille eesmärk on inimesed peenelt suunata.
Mure teravneb, kui reklaamid hakkavad ilmuma AI platvormidesse. Kui süsteem suudab järeldada, kas kasutaja on impulsiivne, ärev, väga sotsiaalne või ebatavaliselt avatud uutele ideedele, pole raske ette kujutada, kuidas neid andmeid saaks muuta turundusrelvaks. Reklaam ise võib tunduda tavaline. Selle taga olev strateegia ei pruugi olla.
Siin on lihtne järeldus. ChatGPT on kasulik, sageli muljetavaldavaltki, kuid see ei ole privaatne päevik. Mitte vanamoodsas tähenduses, nagu sahtlisse peidetud märkmik. Iga päring jätab jälje ning piisavalt palju jälgi suudab rääkida üllatavalt detailse loo.
Kasutajad, kellele see kompromiss ei sobi, võivad soovida vaadata üle oma privaatsusseaded ja regulaarselt kustutada vestlusajalugu. See ei ole täiuslik kilp, kuid on üks praktiline samm. Suurem küsimus on, kas tehisintellekti ettevõtted käsitlevad vestlusandmeid teenuseparenduse tööriistana või tooraineina massiliseks psühholoogiliseks profiliseerimiseks.
See vastus võib kujundada AI ajastu järgmist etappi rohkem kui ükski silmapaistev uus funktsioon.
Jäta kommentaar