Microsofti tegevjuht Satya Nadella kirjutas X-is, et arendajad ja regulaatorid peaksid käsitlema kõrgelt arenenud tehisintellektimudeleid juba algusest peale võimaliku ohuna ning kavandama neile piiravad kontrollimehhanismid. Tema sõnul tuleb tehisintellekti ümbritsev usaldusraamistik ümber hinnata, sest võimsate mudelite käsitlemisest üksteise sisse paigutatud mustade kastidena ei piisa.
Nadella sõnul ei tohiks mudelite soovitusi, vastuseid ega tegevusi ilma struktuursete kaitsemeetmeteta aktsepteerida. Ta pakkus välja arhitektuuri, kus mudelid on eraldatud ülesandeid haldavatest ja täitvatest süsteemidest, nii et ohjeldusmeetmed ja turvakontrollid asuvad mudelist väljaspool.
Selline eraldamine võimaldaks tema hinnangul mudelite käitumist sõltumatumalt jälgida ja kontrollida. Kompromiteerimise ohu korral soovitas Nadella lähtuda eeldusest, et mudel võib olla juba algusest peale kontrolli alt väljas, ning kujundada ohjeldusmeetmed sellest lähtudes.
„Peame eeldama, et mudel on algusest peale kontrolli alt väljas, ja me peame selle ohjeldama. Mõelge sellele nagu hädapidurile. Volitatud isikul peab alati olema võimalik mudel peatada või välja lülitada keset ülesande täitmist,” kirjutas Nadella.
Ta lisas, et võimekamad mudelid vajavad arenenumaid ohjeldustehnoloogiaid ning nende jaoks tuleks välja töötada ühised standardid. Peatamismehhanismide kõrval kutsus Nadella üles pidama põhjalikku logi mudelite oluliste tegevuste kohta.
Logid peaksid olema inimestele loetavad ja muutmiskindlad, et mudelite toimimist ja otsuseid saaks uurida ning auditeerida. Nadella sõnul aitaksid sellised andmed hinnata, kuidas mudelid tegelikus kasutuses käituvad.
Paljud Nadella ettepanekud kattuvad tehisintellekti valdkonnas juba arutatavate soovitustega. Nende hulka kuuluvad juhtumitest õigeaegne teavitamine, sõltumatu auditeerimine, andmete päritolu kontrollitavus ning mehhanismid mudelite ohjeldamiseks ootamatu käitumise korral.
Nadella ei esitanud postituses tehnilisi lahenduskavasid ega ajakava. Tema märkused olid sõnastatud ettepanekute ja põhimõtetena, mitte konkreetsete poliitikasoovitustena, kuid ta rõhutas ühiste standardite ja tugevama välise kontrolli vajadust kõrgelt arenenud tehisintellektisüsteemide sõltumatuks järelevalveks.
"Olen alati tahtnud mõista, kuidas tehnoloogia töötab ja miks see meid nii palju mõjutab. Kirjutamine annab võimaluse neid vastuseid otsida."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.