ChatGPT-teavitused vanematele: teismelise konto peatamine

Uus teavitus on vaikselt jõudnud vanemate postkasti: kui teismelise ChatGPT konto peatatakse ähvarduste või vägivalla tõttu, võidakse nüüd teavitada tema vanemat või eestkostjat. See on muutus, mis käsitleb tehisintellekti ohutust pigem avaliku ohutuse märgina kui toote seadevalikuna.

Muudatus järgneb teravale kriitikale pärast 2025. aasta massitulistamist Tumbler Ridgeis, Kanadas, kus uurijad selgitasid, et süüdistatav oli enne rünnakut kasutanud ChatGPT-d. Kanada ametnikud küsisid, miks OpenAI ei teavitanud kedagi kontot keelates. Sam Altman, OpenAI tegevjuht, vabandas vea pärast ning ettevõte hakkas ümber mõtlema, kuidas tähistada kõrge riskiga käitumist.

OpenAI lõi teavitussüsteemi koostöös Moonshotiga, organisatsiooniga, mis keskendub veebiohule ja varasele sekkumisele. Vidya Ramalingam, Moonshoti asutaja, kirjeldab funktsiooni kui praktilist esimest sammu: anda peredele kiiresti teada, kui ilmneb tõsine mure, ning suunata neid ressursside ja järgnevate sammude poole. Varane hoiatus, väidab ta, muudab varajase abi võimalikuks.

Kuidas see töötab? Vanemad, kes on seotud teismelise kontoga, saavad sõnumi pealkirjaga "Tähtsad muudatused teie lapse kontol". Klõps nupul "Lisateave" selgitab, et konto deaktiveeriti poliitikate rikkumise tõttu, mis puudutavad ähvardusi või vägivaldseid tegusid. Teade on sihilikult otsene, mõeldud ebamäärasuse kõrvaldamiseks ja pere reageerimise kiirendamiseks.

See värskendus liitub teiste vanematele mõeldud tööriistadega, mida OpenAI on juba juurutanud: kasutusaja piirangud, madalam kokkupuude tundliku sisuga ning õpi-režiimid, mis juhendavad õpilasi samm-sammulise probleemilahenduse kaudu enne lõpliku vastuse näitamist. ChatGPT julgustab ka nooremaid kasutajaid regulaarselt pause pidama, väike tõuge tervislikumate ekraaniharjumuste suunas.

See toob kaasa kompromisse. Mõned väidavad, et see kaldub vanemate järelevalve suunas. Teised ütlevad, et tegemist on vastutustundliku järelevalve kihiga, mis võib takistada eskaleerumist. Tõeline test seisneb selles, kuidas neid teateid kasutatakse, kas need kutsuvad esile toetava sekkumise või karistava ülereaktsiooni.

Lõppkokkuvõttes loodab OpenAI, et läbipaistvad signaalid, mis saadetakse peredele ja toetatakse ressurssidega, aitavad tuvastada ohtlikku käitumist varasemal etapil, mitte alles pärast tragöödiat.

Kas see lähenemine vähendab reaalse maailma kahju, sõltub platvormide, perede ja kohalike ametiasutuste koostööst. Üks klõps võib alustada vestlust. Kas see on õige valik?