Resnica o AI: Zakaj umetna inteligenca ni nikoli popolnoma nevtralna

V tem je past. Vsej samozavesti navkljub umetna inteligenca ni objektivna. Ne govorimo niti o halucinacijah, ki ne temeljijo na pravih podatkih, ampak o tem, da AI tiho zrcali predsodke, stereotipe in propagando iz podatkov, na katerih so jo naučili. Dva nedavna primera sta pokazala, kako globoko sega ta pristranskost.

Kolumnist Bloomberga je opisal pripetljaj, ko si je Anthropicov model za njegovo ženo izmislil južnoazijsko ime, čeprav je njeno pravo ime že imel shranjeno v spominu. AI je raje uporabil prvi stereotip namesto informacije, ki jo je poznal in imel shranjeno. Primer ni osamljen. Študija iz leta 2025 je pokazala, da je GPT-4 imena, ki zvenijo manjšinsko, sistematično povezovala z nižje plačanimi poklici, imena, ki zvenijo "belsko", pa k višje plačanim.

Applov Hadas Kotek je prišel do podobnih zaključkov; jezikovni modeli so 3- do 6-krat bolj nagnjeni k pripisovanju poklicev po spolnih stereotipih, kot to ustreza dejanski statistiki. Torej ne, ne zrcalijo realnosti, ampak pristrano interpretacijo.

Tu postane zadeva še bolj umazana. Študija, objavljena maja 2026, je pokazala, da se mediji, ki jih usmerja kitajska država, v odprtih učnih bazah za treniranje jezikovnih modelov pojavljajo 41-krat pogosteje kot kitajska Wikipedija. Ko istemu modelu isto politično vprašanje zastaviš v kitajščini namesto v angleščini, dobiš nazaj odgovore, ki so opazno bolj naklonjeni kitajski oblasti.

Pa ne gre samo za Kitajsko. V 37 državah iz raziskave so modeli o vladah govorili bolj pozitivno, če je bilo vprašanje zastavljeno v domačem jeziku. Konsistentno se je izkazalo, da so to države, kjer je nadzor nad mediji močnejši. Vzorec je povsod enak: večjo kot ima vlada oblast nad informacijskim prostorom, bolj jo bo jezikovni model predstavljal v lepi luči.

Če to ni dovolj: eno poročilo je ugotovilo, da se je državi naklonjena propaganda pojavila v več kot polovici generiranih odgovorov o mednarodnih konfliktih. Razlog je v tem, da modele večinoma natrenirajo prosto dostopni podatki. Prosto dostopno novinarstvo pa je veliko pogosteje pristransko, saj njegovo preživetje temelji na financiranju države ali velikih podjetij. Plačljivo novinarstvo višje kakovosti je po drugi strani velikokrat omejeno zastopano v podatkih za treniranje. Rezultat je, da več kot polovico časa o mednarodnih konfliktih beremo odgovore, ki temeljijo na dejanski propagandi, ne dejstvih.

Model ne "ve" ničesar. Napove najverjetnejše nadaljevanje stavka, in "najverjetnejše" pomeni "najpogostejše v podatkih, na katerih se je učil." Internet je poln stereotipov, vročih objav in poceni dostopne propagande. Kakovostno, plačljivo novinarstvo, ki podpira demokracijo, je v učnih bazah strukturno v podrejenem položaju, preprosto zato, ker ga je manj in je pogosto za plačljivim zidom (paywallom). Zato model privzeto poseže po najglasnejšem, najpogosteje ponovljenem vzorcu.

Odgovor chatbota je dobro izhodišče, a kritično mišljenje ostaja ena najpomembnejših kompetenc 21. stoletja. Kdor generirano vsebino dojame kot dokončno in resnično, bo svoj pogled na svet okužil z vsemi predsodki, stereotipi in propagando, ki je bila v jezikovni model vgrajena.

Odgovornost za preverjanje ostaja pri tebi. Ravno zato, ker stroj zveni tako prepričljivo, je odgovornost, ki jo nosiš, še toliko večja.