OpenAI Control Room peatab mudeli väljundid 35 sekundiga

OpenAI võttis kogu oma uurimistaristus kasutusele keskse süsteemi Control Room, mis suudab sekkumiskorralduse järel peatada mudeli edasise väljundiloome kuni 35 sekundiga.

Ettevõtte sõnul on Control Room turvakiht, mis ühendab teadustöö töökoormused, inferentsimootorid ja keskse autoriseerimisteenuse. Selle abil saab peatada käimasolevaid uurimisprotsesse, mis võivad endast riski kujutada.

Kuidas peatamine ja õiguste tühistamine toimivad

Control Room ühendab kolm põhikomponenti: teadustöö töökoormuse, inferentsimootori ja keskse Control Roomi teenuse. OpenAI käsitluses tähendab töökoormus uurimisülesannet, näiteks tugevdamisõppe katset, hindamist või mahukat andmetöötlust, mis vajab agendipõhist inferentsi.

Iga agendipõhist inferentsi vajav ülesanne peab olema seotud heaks kiidetud turbekonfiguratsiooniga. Kui teadlane käivitab protsessi, küsib ülesande kood Control Roomilt unikaalse Job ID. See tunnus lisatakse igale inferentsimootorile saadetud päringule, kus mudelid töötavad otse GPU-del ja genereerivad väljundeid.

Enne vastuse tagastamist küsib inferentsimootor Control Roomilt kinnitust, et ülesanne on endiselt autoriseeritud. Kui teadlane või automatiseeritud seiresüsteem saadab peatamiskäsu, keelab Control Room järgmise päringu ning inferentsimootor takistab edasiste väljundite loomist.

OpenAI rõhutab, et programmi tööd ei pruugita peatada ega protsessi sulgeda. Selle asemel blokeeritakse mudeli võime väljundeid luua. Selline lahendus toob kriitilise kontrollikihi inferentsimootorisse ja vähendab vajadust kontrollida iga teadlase turvameetmeid eraldi koodibaasis.

Control Room on tõrgete puhuks loodud vaikimisi blokeeriva põhimõttega. Kui keskne teenus tõrgub, seda muudetakse pahatahtlikult või see läheb võrguühenduseta, ei töötle inferentsimootorid päringuid enne süsteemi taastamist.

OpenAI seostab peatamiskäsu ja väljundite tegeliku blokeerimise vahele jäävat kuni 35-sekundilist viivitust suure päringumahu haldamiseks kasutatava vahemälukihiga. Ettevõtte sõnul püütakse seda ajavahemikku vähendada nulli lähedale.