Anthropicu insener hoiatab AI kognitiivse võla ohtude eest

Anthropicu insener Edi Othmani hoiatab avalikus märkuses, et liiga suure osa vaimsest tööst tehisintellektile usaldamine võib aja jooksul nõrgestada kriitilise mõtlemise oskust. Tema sõnul ei peitu oht tööriistades endis, vaid inimeste kalduvuses võtta AI vastuseid vastu neid piisavalt kontrollimata.

Othmani kirjutab, et AI-agentide laialdane kasutamine on juba muutnud tema programmeerimistöö korraldust. Suur osa igapäevatööst käib nende tööriistade kaudu ning iseseisvaks probleemilahenduseks jääb vähem võimalusi.

„Oskused, mida lõpetad harjutamast, närbuvad – tõenäoliselt kiiremini, kui arvad,” kirjutas ta.

Kognitiivne võlg programmeerimises

Othmani ei ole AI-agentide kasutamise vastu programmeerimisprojektides. Tema hinnangul võivad need tööriistad olla kasulikud, kuid arendajad peavad säilitama oma otsustusvõime ega tohi võtta genereeritud väljundit lõpliku vastusena.

Ta rõhutab, et lõplik vastutus jääb inimesele. „Sõltumata sellest, kui palju AI aitas, peab inimene töö eest vastutama,” kirjutas Othmani.

Ta kirjeldab seda nähtust kognitiivse võlana ehk järkjärgulise eemaldumisena põhjalikust kontrollimisest. „Loed eelmist vastust hoolikalt, seega järgmist juba kiiremini. Järgmist vastust kontrollid vaid selle üldise struktuuri järgi. Siis küsib keegi sinult ühe koodirea kohta ja sa ei oska seda isegi oma AI-agendi abiga selgitada... Nii koguneb kognitiivne võlg,” kirjutas ta.

Praktilised piirid AI kasutamisel

Kognitiivse võla kuhjumise vältimiseks soovitab Othmani jätkata põhioskuste harjutamist, sõnastada ideed enne AI-lt abi küsimist, pöörata genereeritud sisule tähelepanu ning veenduda, et tööriista tehtud otsused on arusaadavad.

Othmani sõnul võivad mõned inimvõimed tehisintellekti arenedes nõrgeneda, kuid inimesed peaksid teadlikult otsustama, millistest oskustest nad on valmis loobuma, mitte neid vaikimisi kaotama.