AI-oznake pomagajo dezinformacijam

Če bi o plemenitosti in iskrenosti takih oznak lahko razpravljali, smo vsaj glede njihove učinkovitosti dobili jasno povratno informacijo: ne delujejo! Letošnja raziskava, objavljena v Journal of Science Communication, je odkrila, da imajo pogosto celo obraten učinek in povečajo zaznano verodostojnost dezinformacij. Zakaj oznake odpovejo, zakaj verjamemo lažem in kako to vpliva na naš feed?

Raziskovalca Teng Lin in Yiqing Zhang sta na 433 udeležencih testirala štiri scenarije: resnična informacija z in brez AI-oznake ter dezinformacija z in brez AI-oznake. Ugotovila sta nekaj, čemur pravijo "truth-falsity crossover effect." Ista oznaka "AI-generirano" zmanjša zaznano verodostojnost točnih informacij in hkrati poveča verodostojnost lažnih trditev.

Oznaka, ki bi te morala opozarjati, dela točno nasprotno. Učinek ni omejen samo na neizkušene laike. Celo ljudje, ki so sicer skeptični do umetne inteligence, so lažnim označenim vsebinam bolj zaupali. Zakaj? Ker oznaka sporoča: "to je nekdo pregledal, transparentni smo glede izvora." Naši možgani transparentnost vidijo kot razlog za zaupanje, tudi če za to ni nobenega razloga. Če zavestno širimo neresnice in nanje nalepimo nalepko "AI-generirano", nas bo občinstvo zaznalo kot iskrene (ker smo "pravično" razkrili vir informacij).

To ni osamljen primer. Druga študija, objavljena v reviji JMIR, je potrdila neučinkovitost oznak. AI-oznake same po sebi bistveno ne vplivajo na to, kako točne ali verodostojne se nam zdijo vsebine. A pri dezinformacijah oznake rahlo povečajo verjetnost, da boš vsebino delil naprej (verjetno zato, ker zaradi oznake "zaščitimo" svoj digitalni ugled).

Zanimiv je pojav posrednega namigovanja na resnico ("implied truth effect"); ko je samo del vsebin označen kot generiran, neoznačeno vsebino samodejno dojemaš kot preverjeno in avtentično. Podobno to napako v človeškem sklepanju izkoriščajo na vsakem koraku; če v trgovini na enem jogurtu piše "vsebuje umetna barvila", vse ostale samodejno dojemamo kot naravne (tudi če v resnici vsebujejo ista barvila in niso čisto nič bolj naravni). Če Instagram označi 3 od 10 objav kot AI, bodo možgani ostalih 7 veliko bolj verjetno sprejeli kot resnične. Če označimo samo del "sklopa" (povezava do članka prejšnjega meseca), bomo v neoznačene laži toliko bolj verjeli.

Meta, Google in TikTok so vsi uvedli AI-oznake, k čemur jih sili tudi evropska zakonodaja. A pričakovati, da bodo podjetja, ki so milijarde vložila v umetno inteligenco, povsem transparentna in dosledna pri označevanju, je rahlo naivno.

Težko je promovirati AI kot revolucionarno tehnologijo in jo hkrati označevati kot vir nezaupanja. AI-vsebina je za platformo dobra; kontroverzna, provokativna, zbudi čustven odziv. Družbena omrežja je že iz čistih ekonomskih razlogov ne morejo dosledno omejiti ali na veliko označevati potencialnega zavajanja. Na bonbonih ne piše na veliko, da povzročajo karies, na zdravilih so stranski učinki napisani na neuglednem papirju v drobnem tisku. Negativnih vidikov korporacije ne obešajo na veliki zvon. Čeprav raziskovalci predlagajo sistem, kjer bi poleg oznake "AI-generirano" dodali še neodvisno preverjanje vsebine, zdravstvene informacije pa bi zahtevale strožja opozorila, je motivacija podjetij, da bi to dejansko implementirala, očitno precej majhna.

Oznake za AI-vsebino so digitalni ekvivalent napisa "pozor, drsi". Tehnično pravilen napis (ki ščiti pred odgovornostjo), ki pa je v praksi neuporaben. Če smo se redundantne table in oznake našega vsakdana naučili ignorirati, je prav, da vsaj pri vsebinah, s katerimi vsak dan polnimo svojo glavo, ostanemo kritični.

Oznake delujejo transparentno, a hkrati s tem ugasnejo naše obrambne mehanizme in nas naredijo še bolj dovzetne za manipulacijo. Dokler platforme ne najdejo boljšega sistema (kar se v kratkem verjetno ne bo zgodilo), ostaja najbolj učinkovita stara metoda: preberi, pomisli, preveri. Dolgočasno, a edino, kar deluje.