Kõik algas päringust, mis pani ettevõttes häirekellad tööle: paluti koostada tehisintellekti abil uurimisprojekt viiruse muutmiseks, et see leviks hõlpsamalt. Lühike lause. Väga reaalne risk.
Anthropicu sõnul tuvastasid ettevõtte turvasüsteemid mitu teadlast, kes püüdsid Claude'i abil arendada potentsiaalselt ohtlikke bioloogilisi võimekusi, ning ettevõte sekkus. Äsja avaldatud raport käsitleb viit juhtumiuuringut. Need ei puuduta filmilikke kurjategijaid, vaid peeneid ja usutavaid uurimissuundi, mis võivad hägustada piiri legitiimse teaduse ja väärkasutuse vahel.
Üks murettekitavamaid näiteid puudutas chikungunya viirust. Ohutusklassifikaator märgistas funktsioonivõimenduse uuringu kavandi, mille eesmärk oli suurendada viiruse nakkavust ja võimet immuunvastusest kõrvale hoida. Chikungunya vastu ei ole heakskiidetud viirusevastast ravi ning haigus võib inimesi nädalateks või kuudeks töövõimetuks muuta. Kui ilmnes, et kavandatav töö võib olla seotud sõjaväega seotud laboriga, süvenes Anthropicu mure veelgi.
Funktsioonivõimenduse uuringud käsitlevad määratluse järgi geneetilisi muutusi, mis muudavad organismi omadusi. Samu katseetappe, mis aitavad luua vaktsiine või ravimeetodeid, saab kasutada ka patogeenide ohtlikumaks muutmiseks. See kahese kasutusega tegelikkus teeb automaatse tuvastamise erakordselt keeruliseks. Kuidas eristada õiguspärast ohutusuuringut kahju tekitamise juhendist? Vastus ei ole sageli üheselt selge.
Teises juhtumis kasutas teadlane Claude'i, et koostada mürkides leiduvate toksiliste peptiidide atlas, ning küsis nende omaduste optimeerimiseks tootmisprotsessi kohta. Raport kirjeldab ka katseid kasutada mudeleid digitaalse kahju tekitamiseks: jälgimislahenduste arendamiseks, tarkvara haavatavuste ärakasutamiseks, propaganda levitamiseks ja tavapäraste süsteemide relvastamiseks.
Anthropicu sõnul blokeeris ettevõte asjaga seotud kontod ning kasutab saadud teadmisi oma ohutusraamistiku täiustamiseks, et muuta automaatsed kaitsemeetmed nutikamaks ja konservatiivsemaks.
Anthropicu ohuluure juht Jacob Klein sõnastas asja otse: „See ei ole koomiksistsenaarium, kus keegi kuulutab valjult, et soovib ehitada bioloogilist relva. Need on keerulised ja segased juhtumid, mis nõuavad kaalutlusotsust.“ Anthropicu hinnangul õigustas see ettevaatlikkuse kasuks eksimist.
Ettevõte keeldus asjaosaliste isikute või institutsioonide nimetamisest, viidates bioloogiliste uuringute nüansirikkusele ja väärkirjeldamise riskile. Juhtum tõstatab siiski kiireloomulisi küsimusi selle kohta, kelle vastutus on kontrollida kahese kasutusega teadusuuringuid ajal, mil võimsad tehisintellekti mudelid on laialdaselt kättesaadavad. Kellel on õigus piir tõmmata? Ja kui kiiresti suudavad ohutussüsteemid sammu pidada, kui tehnikad muutuvad üha ligipääsetavamaks?
Raport ei paku selget lõppjäreldust. See on hetkepilt kiiresti arenevast probleemist: tehisintellekti tööriistad kiirendavad avastusi ja võivad väärkasutuse korral lühendada teekonda ideest kahju tekitamiseni. Nüüd tuleb täpsustada tuvastamist, laiendada järelevalvet ja otsustada, kui suure ettevaatusega on maailm valmis tegutsema, enne kui need võimalused jõuavad nende kätte, kes võiksid neid väärkasutada.
"Minu huvi tehnoloogia vastu algas lapsepõlvest. Tänapäeval püüan kirjutada nii, et ka keerulised teemad oleksid kõigile arusaadavad."
Arutelu
Jäta kommentaar
Kommentaarid
Kommentaare veel pole. Ole esimene.