X-ov algoritem se uči iz tvoje jeze, ne iz tega, kar te zanima

Raziskovalci so vzeli 715 aktivnih uporabnikov X-a in jim namestili brskalniški dodatek. Ta je hkrati zajemal zavihek Sledim (računi, ki jih izbereš sam) in zavihek Zate (algoritemski izbor). Objave so nato ocenili po uveljavljeni Schwartzovi lestvici 19 človeških vrednot – od strpnosti in skrbi za druge do dosežkov in tradicije. Rezultat? Objave računov, ki jim slediš, se s tvojimi vrednotami ujemajo pozitivno. Vsebina, ki ti jo algoritem servira sam, pa je z njimi v popolnem nasprotju.

Zakaj bi model mislil, da te neka tema zanima, če si pod njo le nekoga poslal v tri krasne? Komentiranje predstavlja le 6,8 odstotka vseh interakcij na platformi, a ima v modelu ogromno težo. Zahteva namreč več truda in zanesljivo napoveduje to, da boš dlje ostal v aplikaciji. Všeček pomeni strinjanje, komentar pa je večinoma prepir. Algoritem tega ne razume in ga označi le kot visoko angažiranost, kar pomeni, da boš v aplikaciji ostal dlje, a boš hkrati tudi bolj jezen, ko boš spremljal predlagane vsebine.

Psihologi že dolgo vedo, da nas jeza privlači. Vsaka moralno-čustvena beseda dvigne število delitev za 20 odstotkov, napad na nasprotnika pa je možnost delitve povečal za kar dve tretjini. Stanfordska študija ne odkriva tople vode, a prinaša novost, saj ne meri le viralnosti, ampak razliko med tem, kar človek ceni, in tem, kar mu platforma dejansko vsiljuje.

Kaj lahko narediš ti

Spremeni sistem. Prvič: taktično se ugrizni v jezik in nehaj odgovarjati na objave, ki te razjezijo. Vsak tvoj jezen komentar poveča verjetnost, da boš videl še več vsebin, ki te jezijo. Drugič: preklopi na zavihek Sledim in se izogni algoritemski navlaki. Raziskovalci so razvili celo brskalniški dodatek, ki omogoča prerazvrščanje objav po tvojih lastnih vrednotah.

Algoritem ni nujno zlonameren, je pa naiven. Ne loči med "to me zanima" in "to sovražim", ker je na ravni podatkov oboje enako, če te zadrži na platformi. Dokler boš algoritem hranil z jezo, bo vir objav ostal vir dodatnega kortizola, ki ga verjetno ne rabiš.