4 Minutit
Mõned inimesed kohtlevad ChatGPT-d nagu otsingukasti. Teised räägivad sellega samamoodi nagu kirjutaksid sõbrale kella kahe paiku öösel, kui uni ei tule. See teine kasutusala on lükanud tehisintellekti palju tõsisemasse valdkonda kui tootetutvustused või koodimisabi, ja OpenAI reageerib nüüd funktsiooniga, mis on mõeldud hetkedel, kui vestlus näib muutuvat ohtlikuks.
Uus tööriist, mille nimi on Usaldusisik (Trusted Contact), hakkab jõudma ChatGPT sätete hulka täiskasvanud kasutajatele. Selle eesmärk on paberil lihtne: võimaldada kasutajal valida üks inimene, keda teavitatakse, kui süsteem tuvastab tõsise enesevigastamise riski. Praktikas püüab OpenAI luua turvavõrku ilma, et privaatvestlustest saaksid automaatsed teavitused.
Selle seadistamine on vabatahtlik. Kasutajad võivad nimetada ühe usaldusisiku, kuid see isik peab vastama vanusenõudele: enamikus piirkondades vähemalt 18 aastat, Lõuna-Koreas 19 aastat. Kui isik on valitud, saab ta kutse, mis selgitab rolli, ning tal on seitse päeva nõustumiseks. Kui ta keeldub, saab kasutaja valida teise isiku.
See teavitus võib saabuda e-posti, tekstsõnumi või rakenduse kaudu. See ei sisalda vestluspäevikuid, tsitaate ega vestluse kokkuvõtet. Selle asemel teatab see lihtsalt usaldusisikule, et enesevigastamisest räägiti murettekitavas kontekstis, ja palub tal ühendust võtta. OpenAI ütleb, et püüab inimvaatluse lõpetada vähem kui tunni jooksul.
Kuidas see sobitub OpenAI laiemasse turvakavasse
See ei ilmu isoleeritult. OpenAI on juba toonud välja turvafunktsioone, mis on seotud teismeliste kontodega, sealhulgas hoiatused vanematele, kui seotud kontod näitavad stressi märke. Usaldusisik laiendab seda ideed täiskasvanutele, mis ütleb palju selle kohta, kuidas ettevõte nüüd näeb ChatGPT kasutust. Vestlusrobot ei ole enam ainult tootlikkuse abiline. Paljude kasutajate jaoks on sellest saanud koht sügavalt isiklike ja emotsionaalselt laetud vestluste jaoks.
OpenAI sõnul arendati funktsioon koostöös kliinikute, teadlaste ja vaimse tervise organisatsioonidega, sealhulgas Ameerika Psühholoogide Assotsiatsioon. Välise osaluse roll on oluline. Iga tööriist, mis puutub kokku enesevigastamise riskiga, privaatsuse ja kriisireaktsiooniga, asub tundlikus ruumis, kus disainiotsustel on tõsised tagajärjed.
On ka selged piirid. Usaldusisik ei asenda kriisitelefoni, pääste- või hädaabiteenuseid ega professionaalset vaimse tervise tuge. OpenAI ütleb, et ChatGPT juhatab kasutajaid vajadusel nendele ressurssidele. Kasutajad saavad oma valitud kontakti igal ajal eemaldada või muuta ning kontakt võib igal ajal loobuda.
Selle väljaütlemise sees on ka vaiksem sõnum. OpenAI tunnistab midagi, mille ümber tehnoloogiaettevõtted on mõnda aega mänginud: inimesed toovad oma kõige haavatavamad hetked juba tehisintellekti vestlusrobotite ette. Kas ettevõtted seda tahtsid või mitte, sellel ei ole enam suurt tähtsust. Käitumine on olemas. Sellised funktsioonid nagu Usaldusisik on katse sellele reaalsusele vastata natuke ettevaatlikumalt, natuke inimsuse sugemetega ja tunnistusega, et isegi kõige arenenum vestlusrobot ei peaks olema ainus hääl toas, kui olukord muutub pimedaks.
Jäta kommentaar