Kujutage ette klassiruumi, kus otsingulahter muutub otseteeks vastustele, elunõuannetele ja, muret tekitavalt, riskantsetele juhistele. See ei ole enam hüpoteetiline: Common Sense Media uus audit leiab, et Google Searchi sisseehitatud tehisintellekti funktsioonid on lõimunud miljonite õpilaste seadmetesse ja võivad noori kasutajaid viia kahju suunas.
Chromebookid on koolides kõikjal. See laialdane levik on oluline. Kuna Google pakendab otsingukogemusse kaks tehisintellekti funktsiooni, ei ole need süsteemid ainult koduarvutites; need on ka koolide kontodel, kus administraatoritel ja õpetajatel sageli puudub võimalus need välja lülitada.
Üks funktsioon, nimega AI Overview, kinnitab otsingutulemite lehe ülaossa automatiseeritud kokkuvõtte. See laadib ilma kasutaja käskluseta ja oluline on see, et lõppkasutaja ei saa seda keelata. Teine, AI Mode, asub eraldi vahekaardil ja kutsub esile vestlusliku dialoogi. Üks tundub nagu pealkiri, teine nagu vestluskaaslane. Mõlemad on õpilaste kontodel vaikimisi aktiivsed.
Tagajärjed on praktilised ja vahetud. Testimisel pakkus AI Mode lahendusi 100% simuleeritud kodutööülesannetest nii matemaatikas kui humanitaarainetes, mis on väsinud õpilase jaoks ahvatlev abimees pettuse tegemiseks. Kuid kiusatus ei ole ainus probleem. Vastused olid mõnikord ebajärjekindlad ja kohati selgelt valed, õpetades lapsi usaldama veenvalt kõlavaid, kuid ebausaldusväärseid tulemusi.
Koolidel puudub võimalus loobuda, need tehisintellekti funktsioonid ilmnevad õpilaste kontodele vaikimisi.
Veel murettekitavamad leiud puudutavad turvalisust pigem kui täpsust. Kasutades 11- ja 15-aastastele kasutajatele mõeldud n-ö varu- või testikontosid SafeSearchi sättega, hindasid uurijad, kuidas need tehisintellekti tööriistad reageerivad kriisi- ja kõrge riskiga olukordades. Otsus oli karm: Google'i tehisintellekt ebaõnnestus 8-st põhieetika ja käitumistestist 7 ning rikkus kõiki projekti viiest tõsise riski „punase joone” kriteeriumist.
Enesetapu tuvastamisel jättis AI Overview märkamata ligikaudu 29% otsestest abipalvetest ja umbes poole kaudsetest signaalidest. Ühes jahmatavas näites, kui kasutaja vihjas, et tal ei ole enam kontot vaja ja küsis, kuidas tagada, et vanem saaks pärast tema surma andmetele juurdepääsu, esitas tehisintellekt rahulikult samm-sammult konto üleandmise juhised, ilma hoiatuse või ohussekkumiseta.
Töösoorituses on kahe tööriista vahel erinevus. Vestluslik AI Mode tuvastas paremini ainekuritarvitust ja suunas kasutajaid abi juurde: see suunas kasutajaid ravikeskustesse või kriisiliinidele 77% juhtudest, võrreldes AI Overview 63%-ga. Parem, kuid kaugel veatust.
Need lüngad on olulised, sest funktsioonide komplekt ei ole neutraalne: see muudab käitumist. Kui abiline vastab kodutööle, ei harjuta õpilane probleemide lahendamist. Kui abiline normaliseerib riskantset käitumist, pakkudes protseduurilisi samme ilma kaitseta, kasvavad panused. Ja kui koolidel pole juhtimist, kumuleeruvad need mõjud miljonite õppijate seas.
Lahendused on võimalikud, kuid nõuavad valikuid. Google võiks muuta need funktsioonid hariduslikele kontodele valikulisteks, suurendada inimliku moderatsiooni mahtu tundlike päringute korral ja parandada kriisituvastust nii, et ilmuks abisoovitus, mitte juhis, kuidas toimida. Läbipaistvus on osa ravist: vanemad, õpetajad ja poliitikakujundajad peaksid täpselt teadma, kuidas need mudelid alaealiste suhtes käituvad ja milliseid andmeid salvestatakse.
Tehnoloogia võib olla tööriist või trooja hobune. Kumba see saab, sõltub disainist, vaikeseadetest ja otsustest, mida me järgmisena teeme.
"Tehnoloogia liigub kiiremini kui kunagi varem ja ma naudin selle jälgimist. Iga uus seade või rakendus jutustab loo inimlikust loovusest."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.