AI lahko zavede tudi najpametnejše: Bodite previdni!

Nedavno je tako tehnološki kot znanstveni svet prevzel nenavaden fenomen. David Budden, prej eden vodilnih pri Googlovem DeepMindu, ki se lahko hkrati pohvali še z doktorati iz najprestižnejših ameriških univerz, je javno naznanil, da je s pomočjo ChatGPT in drugih chatbotov rešil enega najtežjih matematičnih problemov na svetu. V svoj prav je bil prepričan do te mere, da je nanj skupaj stavil kar 45.000 ameriških dolarjev. No, težava je, da so ga strokovnjaki raztrgali. Matematična skupnost je do njega neusmiljena, verjetnost, da je svetovni matematični problem res premaknil, pa naj bi znašala manj kot 10 odstotkov. Če lahko UI zavede nekoga, ki ima nadpovprečno inteligenco in odlično izobrazbo, bi hitro lahko zaključili, da lahko zavede vsakogar. A v resnici naj bi ravno pamet bila faktor, ki nas naredi bolj ranljive za halucinacije robotov. Zato, ker lahko s pametjo racionaliziramo vse - tudi napake.

Od vseh ljudi, ki bi se lahko javno spravili v tako zagaten položaj, je Budden res posebnost. Za seboj ima tako akademske kot karierne dosežke, številni pa ga dojemajo kot avtoriteto v svetu umetne inteligence. Kljub temu da brez dvoma ve, da se umetna inteligenca lahko moti (in to bolj od večine, ki jih na to opozarja le nedolžen napis na dnu chatbota), je GPT-ju verjel, da je uspel rešiti dva matematična problema (Clay Millennium Prize), ki jih prej desetletja niso uspeli streti vsi matematični umi sveta.

Budden je samozavestno objavil, da je s pomočjo umetne inteligence in formalnih orodij za preverjanje rešil enega najtežjih nerešenih matematičnih problemov, in bil v svoj zaključek tako prepričan, da je nase proti trem strokovnjakom s področja stavil skoraj 50 tisoč dolarjev. V to, kaj je z umetno inteligenco dosegel in česa ne, se ne bomo niti spuščali, saj zahtevna matematika niti približno ni v mojem dometu. Večja uganka, o kateri se splača razglabljati, je to, zakaj je bil Budden vase tako zelo prepričan.

"Ne trpim za psihozo," je objavil Budden. Javno zagovarjanje svojega duševnega stanja ni ravno nekaj, kar bi si kdorkoli želel, bo pa morda postalo vse pogostejši fenomen. Pojem "LLM psihoze" ali "AI psihoze" sicer ni klinično podprt ali znanstveno sprejet. Gre za pojav, ko ne zmoremo oceniti meja svojih lastnih sposobnosti in zaznati, da nas umetna inteligenca zavaja. AI je izjemno dober pri ustvarjanju prepričljivih razlag in utemeljitev, pogosto s samozavestjo, ki zavede večino uporabnikov. Če uporabnikove zmožnosti ali izobrazba ne dohajajo jezikovnega modela, a vseeno brez potrditve slepo verjame generiranemu, lahko začnemo govoriti o prvih znakih AI psihoze.

Tu se pojavi najbolj zanimiva podrobnost: takšnemu mešanju meja med resničnim in haluciniranim so najbolj podvrženi ravno inteligentni ljudje. Znajo namreč utemeljiti vse. Racionalizirajo odgovore, če imajo prepričljivo razlago, tudi če niso pravilni. To, da so pametni večinoma vajeni tega, da imajo prav, ne pomaga; strokovni ego lahko dodatno ošibi kritično mišljenje. AI pogosto deluje kot slepi podpornik, ki bo z veseljem utemeljil naše zablode in nam pihal na dušo, tudi če smo povsem zgrešili. Raziskave so potrdile, da ljudje nasploh verjamejo in zaupajo odgovorom, če jim umetna inteligenca ponudi razlago. To, ali je razlaga resnična ali sploh smiselna, je postranskega pomena.

Razvoj umetne inteligence žal še vedno ni rešil težave halucinacij, mnogi pa verjamejo, da bo preverjanje pristnosti odgovorov še zelo dolgo naša odgovornost. Vsi smo lahko podvrženi blodnjam UI. Preden javno objavimo, da smo odkrili zdravilo za raka ali rešili naslednji matematični problem, se torej splača vprašati naslednje:

- Ali umetno inteligenco prosim za potrditev ali za kritiko? Če sprašujemo le, ali imamo prav, bo umetna inteligenca vedno našla kopico razlogov, ki bodo le utrdili naša (zmotna) prepričanja. UI je tudi odličen kritik; uporabimo jo za iskanje lukenj v svojih domnevah in prepričanjih!

- Ali se ukvarjam s področjem, o katerem ne vem dovolj? Če matematike ne razumeš dovolj, da bi preveril dokaz, ki ga je izpljunil UI, potem odgovoru ne zaupaj. Iluzija kompetence nas hitro zavede v občutek, da razumemo nekaj, kar je v resnici izven našega dometa.

- Imam občutek, da sem odkril nekaj, na kar drugi niso pomislili? Če verjameš, da si skupaj z jezikovnim modelom dosegel preboj, se skoraj gotovo motiš. Umetna inteligenca je natrenirana na obstoječem znanju; lahko ga poveže na zanimive in zelo uporabne načine, redko pa bo dejansko sama od sebe dosegla preboj. Strokovnjaki niso idioti, ti pa ne edini genij, ki zna dobro promptati.

Na kratko: svoj ego se splača imeti pod nadzorom. Sploh pa se splača pogovoriti z nekom, ki res nekaj ve o področju, preden objavimo visokoleteče in pretirano samozavestne trditve. Uporabniki interneta bodo do naših ugotovitev le redko tako prijazni kot jezikovni modeli.