Umetna inteligenca je neverjetno uporabna; o tem ne dvomi praktično nihče več. A z vsakim močnim orodjem pride v paketu velika nevarnost. Nekateri izmed najbolj prepoznavnih mojstrov umetne inteligence so prepričani, da so nevarnosti večje od koristi. Tako pesimistični so postali, da ne verjamejo niti v to, da bo človeštvo čez nekaj desetletij še obstajalo. Zakaj bi v takšnem svetu sploh varčevali za pokojnino?
Pokojnina ne pomaga, če bo konec sveta
Na eni strani se krepi navdušenje nad vse bolj zmogljivimi digitalnimi orodji, ki se odlično znajdejo z vse širšim spektrom človeških opravil. Na drugi strani pa so skeptiki vedno bolj črnogledi. Ameriški Atlantic poroča, da v stroki zelo prepoznavna imena nimajo dobrih novic za naš obstoj. Nate Soares, predsednik inštituta MIRI, je nehal varčevati za svojo pokojnino, ker preprosto ne verjame, da bo svet takrat še obstajal. Podobno Dan Hendrycks, direktor Centra za UI varnost (Center for AI Safety) ne vidi lepe prihodnosti; preden bo dočakal pokoj, bo vse avtomatizirano, velika možnost pa je, da ljudi sploh ne bo več, predvideva.
Je res zmanjkalo časa?
Moč umetne inteligence znajo nepridipravi z nekaj spretnosti izkoristiti za zelo škodljive namene. Da bi to preprečila, so podjetja umetne inteligence razvila napredne programske blokade, ki naj bi zaznale in omejile zlonamerno uporabo. Težava, o kateri govorijo mojstri umetne inteligence, pa je v resnici veliko globlja od vibe hackanja. Trenutni varnostni ukrepi nas ne morejo zaščititi niti pred "vibe hekerji", kaj šele pred resno eksistencialno katastrofo pobegle umetne inteligence. Varnostni sistemi se razvijajo veliko počasneje od tehnologije same, zaostanek pa je tolikšen, da ne more več dohiteti tehnologije, je prepričan Soares.
Geoffery Hinton, prejemnik Nobelove nagrade za fiziko in eden prvih strokovnjakov za umetno inteligenco, pravi, da je verjetnost za izumrtje človeške vrste v naslednjih treh desetletjih nekje med 10 in 20 odstotki. AGI, umetna splošna inteligenca, ki bo bolj pametna od največjih človeških strokovnjakov, naj bi se po njegovem mnenju lahko zgodila že čez pet do dvajset let.
Zakaj je AGI problem?
Ko je stroj enkrat pametnejši od nas, nas lahko pretenta in z nami manipulira, ne da bi se tega sploh zavedali. Hinton poda slikovito primerjavo: če bi morali nadzorovati igrišče, na katerem se igrajo 3-letniki, ki so pametnejši od nas, bi zelo hitro našli način, da pobegnejo in začnejo kršiti predpise.
Hiter razvoj ima svojo ceno
Sploh pod novo ameriško administracijo ima razvoj umetne inteligence jasno prioriteto. To težko trdimo za varnostne sisteme, ki naj bi nas varovali pred to vzhajajočo tehnologijo. Že leta 2023 so vodilni vseh velikih podjetij umetne inteligence podpisali izjavo, v kateri nevarnost za izumrtje človeštva zaradi AI-ja obravnavajo kot grožnjo, enakovredno pandemijam in jedrski vojni. Govora o varnosti je zadnje čase manj, vse več fokusa je na hitrem razvoju in borbi za prevlado nad konkurenco. Bo res čas, da nehamo varčevati za pokojnino? Ne vem; lahko pa vprašate ChatGPT.
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.
PRAVILA ZA OBJAVO KOMENTARJEV