OpenAI osaleb USA arenenud mudelite vabatahtlikus hindamises

Kui valitsus palub piiluda tipptasemel tehisintellekti kapoti alla, ettevõtted tavaliselt peatavad. OpenAI ei teinud seda, vähemalt mitte päriselt. George Osborne, OpenAI riikidejuht, ütles Londonis SXSW-l publikule, et ettevõte osaleb vabatahtlikult uues USA protsessis, mis küsib varajast juurdepääsu arenenud mudelitele.

Algselt püüdis Valge Maja toetatud täidesaatva korralduse ettepanek kehtestada 90-päevane eelvaatuse esitamise aken. See kohtas vastuseisu. Pärast avalikku tagasisidet ja isegi mõningast presidendi Trumpi kõhklust pehmendus see väidetavalt kuni 30-päevase taotluse tasemeni. Lõplik sõnastus palub juurdepääsu selle asemel, et seda nõuda, kuid see annab ikkagi märku tugevamast järelevalvest kõige võimekamate süsteemide suhtes.

OpenAI on nõustunud esitama oma järgmise põlvkonna mudelid võrdlustestile, mis on mõeldud hindama "tehisintellekti mudelite arenenud kübervõimeid" ja aitama määratleda läve, mida reguleerijad võivad nimetada "kaetud piirimudeliks". Mida see praktikas tähendab? Mõelge sellele kui tarkvara pingetestile reaalsete riskide puhul: võimekust, väärkasutuse potentsiaali ja turvalisuse seisukorda mõõdetakse avaliku huvi mõõdupuu järgi.

Osborne kujutas seda sammu ette proaktiivsena. Ta ütles, et OpenAI on pakkunud välja, kuidas valitsused võiksid jälgida tehisintellekti ohutust ja turvalisust, mitte ainult USAs, vaid globaalselt. See lähenemine kajastab tööstuse muutust: ettevõtted, mis varem olid regulatsiooni suhtes kaitsvad, näevad nüüd mõningast koordineerimist võimalusena vältida kiirustatud ja halvasti kujundatud reegleid.

Siiski on vabatahtlik koostöö erinev siduvast järelevalvest. Ettevõtted võivad vastata, nõustada või vastu seista. Nad võivad ka kujundada võrdlusmõõdikuid ja neist tulenevaid definitsioone. Poliitikakujundajate jaoks seisneb väljakutse tagada, et võrdlusmõõdikud jäävad ranged, läbipaistvad ja vastupidavad huvide ärakasutamisele. Ettevõtetele on otsustuspunktiks maine, turulepääs ja praktiline koormus tundlike mudelite üleandmisest, isegi kontrollitud hindajatele.

Määrused taotluse alusel. Võrdlused kokkuleppel. Algab uus peatükk selles, kuidas tööstus ja valitsus läbiräägivad kontrolli üle võimsa tehisintellekti, ning see tõstatab tuttavaid, kuid kiireloomulisi küsimusi vastutusest, tehnilisest läbipaistvusest ja sellest, kes määrab ohutusläved. Jälgige seda valdkonda, testid ise võivad anda rohkem teavet kui ükski täidesaatev korraldus.