Geoffrey Hinton nõuab AI-le ravimitööstuse kontrolli

Teadlane ja Nobeli preemia laureaat Geoffrey Hinton nõuab, et tehisintellekti arendajad tõestaksid enne mudelite avalikku kasutuselevõttu regulaatoritele nende ohutust samamoodi nagu ravimitootjad.

Hinton, keda nimetatakse sageli tehisintellekti ristiisaks, ütles taskuhäälingus „Smart Girl Dumb Questions” saatejuht Naeimeh Rezale, et AI-süsteemide turuletoomisele peaks eelnema sõltumatu regulatiivne kontroll.

„Te ei saa lihtsalt uut ravimit välja töötada ja seda turule tuua. Peate veenma FDA-d ning selleks tuleb teha palju tööd, mis maksab umbes miljard dollarit. Minu arvates on see vähim, mida peaksime AI puhul tegema,” ütles Hinton saates.

Ohutuskontrolli vajadus

Hintoni ettepanek tuleb ajal, mil arutelu tehisintellekti riskide ohjamise üle on taas hoogustunud. Seda on mõjutanud nii hoiatused tehnoloogia võimalike tulevaste kahjude kohta kui ka OpenAI hiljutine otsus oma uusim mudel kõrvale jätta pärast seda, kui sisetestid tekitasid küsimusi mudeli suutlikkuse kohta järgida kasutajate juhiseid ja püsida talle määratud volituste piires.

OpenAI ohutussüsteemide juht Sachi Jain on öelnud, et ettevõtte GPT-6.1 Astra saavutas paremaid tulemusi töökindluses ja keeruliste ülesannete lahendamises, kuid jäi nõrgemaks juurdepääsutasemete kontrollimisel ning oma tegevusest täpse aru andmisel. Hintoni sõnul näitab see, miks väline valideerimine võib vajalik olla.

Hinton hoiatas ka, et arengutempo kiireneb, sest AI-tööriistu kasutatakse üha enam nende endi täiustamiseks. „Eksponentsiaalne kasv toimub väga kiiresti. Näeme nüüd rekursiivse enesetäiustamise algust, sest AI-d kasutatakse mitmel viisil iseenda uuendamiseks,” ütles ta.

Hinton kirjeldas võrdlust USA ravimiameti FDA-ga praktilise lähtekohana, mitte täpse regulatsioonimudelina. Tema hinnangul peaks sõltumatute ohutuskontrollide tegemiseks vajalik kulu ja töömaht olema piisavalt suur, et näidata, kas arendajad on valmis suure võimekusega süsteeme laialdaselt kasutusele võtma.

„See on vaid oletus, kuid arvan, et meil on üks või kaks aastat, enne kui olukord muutub palju halvemaks kui praegu,” lisas Hinton.