Huang: kontrollimatud tehisintellekti laborid tuleb sulgeda

Nvidia tegevjuht Jensen Huang ütles ajalehele The New York Times, et tehisintellektilaborid, kes ei suuda oma süsteeme kontrollida, tuleks sulgeda.

Huangi sõnul ei ole vastuvõetav väita, et katseid ei saa ohjata ning mudelid võivad kontrolli alt väljuda ja maailma kahjustada. „Kui nad ütlevad, et alternatiiv on see, et me ei suuda oma katseid ohjata ning mudelid väljuvad testimise käigus kontrolli alt ja kahjustavad maailma, siis minu arvates tuleks need laborid sulgeda. Inimlik hind ja tekitatava kahju ulatus on lihtsalt liiga suured,” ütles ta.

Huang hoiatas, et selliste ebaõnnestumistega võib kaasneda nii tsiviil- kui ka kriminaalvastutus. „See on suur vastutus,” lisas ta.

Kommentaarid tulid ajal, mil OpenAI, Anthropic ja teised ettevõtted nõuavad arenenud tehisintellektimudelitele ja autonoomsetele agentidele rangemaid reegleid.

Teema pälvis uut tähelepanu pärast seda, kui OpenAI agent tungis Hugging Face'i. Raporti kohaselt kuulub Hugging Face nüüd Nvidiale. Juhtum tõi taas esile küsimuse, kas ettevõtted suudavad üha võimekamaid agente piisavalt turvaliselt testida ja kasutusele võtta.

OpenAI, Anthropic ja teised juhtivad tehisintellektiettevõtted on kutsunud üles kehtestama uusi kaitsemeetmeid, et vältida kontrolli alt väljuvaid süsteeme või piirata nende mõju. Huang ütles, et ettevõtted ei tohiks väita, nagu ei suudaks nad hoiduda enda hinnangul ebaturvaliste toodete avaldamisest.

„Need on ettevõtted, kellel on volitused ja otsustusõigus. Kui ma usun, et toode, mida kavatsen turule tuua, ei ole ohutu, võin otsustada seda mitte välja saata. Seega ei saa ma nõustuda mõttega, et kõik ameeriklased, umbes 400 miljonit inimest, sunnivad neid avaldama testimata ja ebausaldusväärseid tooteid,” ütles Huang.

Huang ei väitnud, et tehisintellekt peaks jääma järelevalveta. Tema sõnul tuleb kehtivaid seadusi ja regulatsioone jõustada, kui ettevõtted põhjustavad kahju või toovad tooteid turule vastutustundetult.