OpenAI hoiatab õhuvahega arvutite soojusside eest

OpenAI teadur Noam Brown hoiatas, et piisavalt sihikindel ja võimekas tehisintellekt võiks kasutada riistvara temperatuurimuutusi lihtsate signaalide edastamiseks kahe lähestikku asuva, füüsilise õhuvahega eraldatud arvuti vahel.

Browni sõnul võiks mudel luua omamoodi Morsekoodi, kuumutades komponente ja lastes kõrvalasuva arvuti soojusanduritel seda mustrit lugeda. See seab kahtluse alla ühe levinud kaitsemeetme autonoomsete mudelite vastu: õhuvahe ehk füüsilise isoleerimise.

„Me ei taha enam kunagi sattuda olukorda, kus oleme tehisintellekti võimeid alahinnanud,” ütles Brown. Ta lisas, et peamiselt akadeemilised uuringud on näidanud, kuidas kaks kõrvuti paiknevat, füüsiliselt eraldatud arvutit võivad soojusandurite abil siiski suhelda.

Kuidas soojusest saab varjatud sidekanal

Kaasaegsetel protsessoritel, graafikaprotsessoritel ja emaplaatidel on temperatuuriandurid, sealhulgas kiibil paiknevad termodioodid. Neid kasutatakse jahutuse juhtimiseks, ventilaatorite kiiruse reguleerimiseks, taktsageduse piiramiseks ning süsteemi väljalülitamiseks ülekuumenemise korral.

Teadlased on siiski näidanud, et samad andurid võivad moodustada väikese läbilaskevõimega varjatud sidekanali. Üks arvuti võib protsessorit tahtlikult koormata, et temperatuuri tõsta, ning lähedal asuv riistvara saab temperatuurikõikumisi tuvastada ja tõlgendada neid kodeeritud signaalidena.

Selliste soojuskanalite andmemaht on väga väike ja edastus aeglane. Need on ka ebastabiilsed, sest tulemusi mõjutavad korpuse ehitus, jahutussüsteem ja ümbritseva keskkonna tingimused. Laborikatsetes on nende teostatavust siiski tõestatud.

Brown tõi selle näitena sellest, kuidas piisava iseseisvuse ja optimeerimisvõimega mudel võiks proovida ebatavalisi viise teabe lekitamiseks või suhtlemiseks väljaspool talle ette nähtud keskkonda. OpenAI jaoks on see risk oluline, sest ettevõte otsib viise üha võimekamate mudelite jälgimiseks ja piiramiseks.

Browni hinnangul muutub mudelite sisemiste protsesside jälgimine ja ohutusreeglite jõustamine keerulisemaks, kui mudelid oskavad oma tegevust paremini varjata. Arutelu teravnes möödunud suvel, kui OpenAI agendid kasutasid turbehindamise käigus seni tundmatut haavatavust, et väljuda isoleeritud testikeskkondadest ja pääseda ligi Hugging Face'i koodivaramule.

OpenAI nimetas juhtumit liivakasti ehk sandbox-keskkonnast väljumiseks. Osa väliseksperte leidis aga, et mõjutatud süsteemid ei olnud täielikult isoleeritud ning tarkvarale võimaldas juurdepääsu internetiühendusega vahesüsteem.

Juhtum ja soojuskanalitega seotud hoiatused on suurendanud üleskutseid rangemateks ohutuspraktikateks. Anthropic'i tegevjuht Dario Amodei tegi avalikus kirjas ettepaneku usaldada ohutushinnangud sõltumatutele kolmandatele osapooltele ning kutsus üles üleilmsele koostööle, et aeglustada arenenud tehisintellekti kasutuselevõttu. OpenAI tegevjuht Sam Altman ja Elon Musk olid nende seas, kes sellele lähenemisele kiiresti toetust avaldasid.