Najbolj priljubljen moški na svetu sploh ne obstaja

Če bi obstajalo tekmovanje za najpogosteje opevanega junaka, bi Elias Thorne zmagal. Cornellova študija je maja 2026 analizirala 20.000 zgodb iz štirih različnih jezikovnih modelov. Ime "Elias" se je pojavilo v približno četrtini vseh zgodb. To je približno 900-krat pogosteje kot v resnični literaturi.

Še bolj bizarno pa je, da se je istih enajst besed, imena Elias, Mara, Elara; poklici svetilničar, urar, pek, knjižničar; lokacija svetilnik, pojavilo v 88 % vseh zgodb. Elias kot svetilničar je nastopal v skoraj dveh tretjinah vsega, kar so ti modeli "ustvarili". Zakaj vsi prepisujejo identično zgodbo?

Sled vodi do nečesa, kar se imenuje WildChat. To je zbirka milijona pravih pogovorov s ChatGPT, ki jih raziskovalci uporabljajo za treniranje in primerjanje modelov. V vsem tem milijonu pogovorov je bilo natanko 166 takih, ki so omenjali Eliasa in svetilnik. Od milijona bolj malo, ampak očitno dovolj, da je za vedno "zastrupilo" bazo.

Razlog za to, da se ta lik pojavlja povsod, ni pogostost pojavljanja, ampak neškodljivost. Zgodbe o osamljenem svetilničarju so povsem varne in predvidljive, ni konfliktov, ni kontroverznosti, nihče, ki jih prebere, se ne bo ravno razburil. Umetni inteligenci je taka vsebina zelo všeč, saj je v osnovi natrenirana tako, da je všečna oz. da uporabnikov generirana vsebina vsaj ne preseneti negativno. Ker celotna industrija uporablja podobne javne zbirke podatkov za treniranje, se je takšno na videz nepomembno seme, ki pa po svojih karakteristikah ustreza zahtevam neškodljivosti, razširilo kot virus. Ne gre torej za to, da jezikovni modeli ponavljajo eden za drugim, ampak bolj za to, da si delijo velik del podatkov, iz katerih so nastali.

Odgovor je nekoliko depresiven. Vsak tak model gre skozi proces, ki mu rečemo varnostno treniranje. Modele se kaznuje, če v zgodbi izberejo avtorsko zaščitene like (adijo, Harry Potter), prav tako pa dobijo kazen, če generirajo neprimerne vsebine. Algoritem zato išče pot najmanjšega odpora. Ime, ki ni avtorsko zaščiteno? Elias. Samotarski poklic, ki zveni zanimivo, a hkrati prav nič kontroverzno? Svetilničar. Model vse skupaj zapakira v žalostno, a popolnoma nedolžno zgodbo.

V svoji skrajnosti pride do pojava, ki mu strokovnjaki pravijo "mode collapse." Model, ki je nagrajen samo za odgovore, ki so vsem všeč, postopoma postane vedno bolj generičen, skoraj impotenten. Čudne, inovativne ideje, tvegane zgodbe, resnično izvirni koncepti, vse to odpade, ker bi lahko bralca razburilo. Ostane samo varno, a na smrt dolgočasno povprečje.

In za piko na i je s to varno AI-generirano vsebino okužen že cel splet. Novi modeli se trenirajo na "umetninah" starejših modelov. Vsebina ni siva, dolgočasna in varna samo zato, ker sta unikatnost in drznost kaznovani, ampak tudi zato, ker je izvirne vsebine, na kateri bi modeli lahko natrenirali lastno izvirnost, vedno manj. Elias, žalostni svetilničar, se začne v neskončnost reproducirati.

Elias Thorne pa ni ostal samo nedolžen junak generiranih pravljic. Kot povsem "varno" izmišljeno ime je postal "avtor" očitno generiranih knjig na Amazonu. Nekatere so neškodljiva AI-navlaka, druge pa dejansko nevarne, recimo zdravstvene dezinformacije o zdravljenju raka. Nastopa tudi v neštetih AI YouTube videih. Generično ime, ki ga modeli radi nadanejo praktično čemurkoli, je prek objavljanja in monetiziranja generiranih vsebin torej postalo lažni avtor zelo širokega spektra različnih del. S tem tudi postaja vse manj varno, kar pomeni, da bo v naslednjih generacijah modelov ime verjetno izginilo, nadomestilo pa ga bo drugo, ravno tako varno in predvidljivo.

Ključna stvar je, da umetna inteligenca nima domišljije, ampak temelji na verjetnosti. Tudi če ji daš vsa genialna človeška dela in jih potisneš skozi vse varnostne filtre, dobiš bež, dolgočasno algoritemsko kašo, ki jo lahko varno ponavljaš v neskončnost. Brez stalnega dotoka prave človeške kreativnosti se AI žal neizogibno vrača k povprečju. In povprečje, bodimo iskreni, ni ravno navdihujoče.