ChatGPT ja võltsitud e-poed: kuidas pettused toimivad

Keegi klõpsas lingil, mis tundus ametlik. Hind oli liiga hea, et uskuda. Pakki ei jõudnud kunagi kohale. Pankkonto tühjendati. See ei ole tehniline põnevik; see on muster, mida turvauurijad nüüd märkavad, kus vestluslik tehisintellekt kohtub veebipettustega.

Petluskontrolliteenuse Ask Silver hiljutised uuringud leidsid, et ChatGPT võib kuvada veenvaid, kuid võltsitud veebipoode, kui kasutajad küsivad tuntud Briti brändide nagu Russell & Bromley või Dunelm toodete kohta. Ahvatlevad sooduspakkumised. Usutavad esilehed. Lingid, mis suunavad ostjaid kloonitud veebisaitidele, mis on loodud raha ja makseandmete varastamiseks.

Kui treeningandmed muutuvad nõrkuseks

Ründajad paigutavad pahatahtlikke lehti üle veebipinna. Need lehed kaevatakse, indekseeritakse ja kui aeg on õige, jõuavad need allikatesse, mis toidavad suuri keelemudeleid. Tulemuseks on see, mida eksperdid nimetavad 'andmete mürgitamiseks': mudel õpib petturlikelt lehtedelt ja kordab seejärel sama vale juhendit tavakasutajatele.

Anna Jones Ask Silverist ütleb, et kurjategijad kasutavad mõnikord ära ebatavalisi hetki brändi elutsüklis, näiteks omandi vahetust või ametliku saidi katkemist, et toita tehisintellekti võltsviidetega ja muuta oma saidid usutavaks. Trikk on lihtne. Loo usutav leht. Pane see välja nagu tõeline pood. Lase mudelil see üles leida ja soovitada.

Lewis Baxter, kes juhib Suurbritannia National Trading Standardsi pettuste meeskonda, hoiatab, et veebisaidi esinemine tehisintellekti vastuses ei ole autentsuse tõend. Inimesed pöörduvad vestlusrobotite poole kiire ostusoovituse saamiseks. Petturid on kohanenud sama kiiresti. Veeneva lingi nägemine vestlusroboti vastuses võib ostja panna põhikontrollid vahele jätma.

Raportites kirjeldatud võltsitud poeesilehed on tihti häirivalt lihvitud. Nad kasutavad brändile sarnaseid domeeninimesid, lisades tuttava nime kõrvale sõnu nagu onlineuk või official, ning reklaamivad järske allahindlusi, mõnikord kuni 80 protsenti, et sundida ostjaid mõtlemata tegutsema. Paljud neist saitidest aktsepteerivad ainult pangaülekandeid, mis on veel üks hoiatusmärk.

Kinnitage müüja alati otse: otsige poodi nime järgi, kontrollige ametlikku veebisaiti ja ärge kunagi makske pangaülekandega, kui te pole kindel, et müüja on usaldusväärne.

Mida kasutajad kohe teha saavad? Rahunege. Lugege URL-i hoolikalt. Pöörake tähelepanu lisasõnadele, kummalistele lõppudele ja kirjavigadele. Eelistage kaarte või makseviise, mis pakuvad ostjakaitset. Kui sait nõuab pangaülekannet, pidage seda tugeva signaalina loobumiseks. Kui võimalik, tippige jaemüüja nimi otsingumootorisse või minge sinna usaldusväärse järjehoidja kaudu, selle asemel et klõpsata vestlusroboti pakutud lingil.

• Kontrollige domeeni hoolikalt lisasõnade või tundmatute lõppude suhtes.
• Otsige kontaktandmeid ja kontrollitavaid sotsiaalseid tõendeid.
• Vältige ainult pangaülekannet aktsepteerivaid makseviise.
• Kasutage krediitkaarte või makseteenuseid, mis pakuvad ostjakaitset.

OpenAI ütleb, et on eemaldanud mudeli otsingutulemustest tuvastatud petturlikud saidid ja pakub võimalust kasutajatele probleemsete linkide teatamiseks. Kasulik. Vajalik. Kuid mitte täielik lahendus. Mudelid õpivad suurelt osalt veebist ning ründajatel piisab vaid paarist veenvast leheküljest, et kahjustust tekitada.

Lõppkokkuvõttes jaguneb vastutus. Tehnilised meeskonnad peavad tugevdama mudelite andmevoogusid ja tuvastama andmete mürgitamist. Platvormid peavad parandama linkide kontrolli. Ostjad peavad kohtlema tehisintellekti soovitusi kui lähtepunkti, mitte heakskiitena. Säilitage uudishimu. Olge ettevaatlikumad.