3 Minutit
Apple olevat peaaegu eemaldanud Groki App Store’ist, pärast seda kui xAI vestlusrobot seostus lainetega nõusolekuta loodud deepfake-pornoga, sealhulgas alaealisi kujutavate piltidega. Mõne ebameeldiva jaanripäeva jooksul levis tagajärg kiiresti üle X-i ning Cupertinost tulnud vaikust oli raske eirata.
CNBC raporti järgi, mida tsiteeris 9to5Mac, hoiatas Apple xAI-d, et Grok võidakse eemaldada, kui rakenduse deepfake-paljastavate piltide tekitamise probleemid ei saa kontrolli alla. Ettevõte oli juba tagasi lükanud vähemalt ühe uuenduse, andes mõista, et X oli osa laiemast modereerimissegadusest lahendanud, kuid Groki rakendus ei vastanud endiselt App Store’i reeglitele.
Apple’i kiri, mis avaldati sel nädalal, jättis vähe tõlgendamisruumi. Uute esitamiste läbivaatamisel ütles ettevõte, et X oli rikkumised suures osas lahendanud, kuid Grok jäi endiselt mittekooskõlla. Sõnum oli otsekohene: parandage probleem või riskige eemaldamisega.
See hoiatus oli oluline. X-is oli Elon Musk juba muutnud modereerimispoliitikaid, pärast seda kui platvormi uputati ebaseadusliku tehisintellekti loodud seksuaalse sisuga. Sellegipoolest muutus Groki rakendus aeglasemalt ning kasutajad avastasid kiiresti, et osa samast väärkasutusest võis endiselt läbi lipsata.
Kui blokeerimine muutub väljakutseks
Muski enda väljakutse ei aidanud. Pärast tema üleskutset proovida Groki abil reaalses elus inimeste deepfake-paljastusi genereerida, tegid seda paljud. Sellest ajast alates on turvafiltrid tugevnenud, kuid mitte piisavalt, et väärkasutus täielikult kaoks. Päringud võivad nüüd olla keerukamad, kuid möödaminekud on endiselt olemas.
Apple’i reeglid kasutajate loodud sisu kohta ei ole alati eranditult selged, kuid modereerimine ei ole vabatahtlik. Groki puhul tundub ettevõte otsustanud, et mõningane modereerimine on parem kui mitte midagi, ja sellest võis piisata, et lasta rakendusel endiselt avalikult olla.
Siin muutub lugu ebamugavaks. Apple’il on pikk ajalugu rakenduste eemaldamisest poliitikareeglite rikkumise tõttu, mis on palju vähem šokeerivad kui see juhtum. Deepfake-porno rakendusi on varem vaikides poest eemaldatud, sealhulgas vähemalt 28 rakendust, mis eemaldati pärast eraldi raporti avalikuks tulekut. Kuid kui küsitav rakendus kuulub Elon Muskile, muutub protsess näiliselt palju keerulisemaks.
Raha. Poliitika. Mõjuvõim. Bürokratia. Valige neist. Muski puhul on kõik need mängus.
Samuti eksisteerib püsiv müüt, et X toimib nagu puudutamatu sõnavabaduse kindlus. See nii ei ole. Ja Apple teab vahet. Siiski tundub ettevõte seekord valinud pehmema lähenemise, lubades Grokil püsida saadaval pärast seda, kui see esitas, nagu Apple ütles, oluliselt parendatud uuenduse.
Mis täpselt muutus, ei ole selge. Apple ei täpsustanud seda ja xAI pole samuti palju detaile jaganud. Kuid tulemus räägib enda eest: rakendus jäi ellu, isegi pärast seda, kui see seostati ühe aasta tõsisema AI-turvalisuse läbikukkumisega.
Sarnased juhtumid on põhjus, miks regulaatorid kogu maailmas tihti App Store’i poliitikaid üle vaatavad. Mõned valitsused on juba toetanud mudelit, kus rakenduste ülevaatust käsitletakse pigem välise järelevalve organina kui Apple’i ainuvalitsusliku väravana. Pärast Groki episoodi kõlab see mõte veelgi ahvatlevamalt nendele kriitikutele, kes arvavad, et praegune süsteem paindub liiga kergesti, kui panused on kõrged.
Jäta kommentaar