Na robu smrti zaradi ChatGPT? Zaupal je AI, nato se boril za življenje

Primer velja za enega prvih odmevnejših sodnih postopkov, ki odpira vprašanje odgovornosti razvijalcev umetne inteligence, ko uporabniki njenim odgovorom zaupajo pri pomembnih življenjskih odločitvah.

Tožba, vložena julija na višjem sodišču v San Franciscu, navaja, da je Scott Winters redno uporabljal ChatGPT in mu zaupal tudi pri zdravstvenih težavah. Klepetalnemu robotu je opisoval ponavljajoče se vrtoglavice, nihanje krvnega tlaka in druge simptome, ki so se sčasoma stopnjevali, so zapisali pri BBC.

Po navedbah njegovih odvetnikov naj bi ChatGPT njegove težave večkrat napačno ocenil ter mu svetoval, naj ne poišče zdravniške pomoči. Zaradi zaupanja v odgovore umetne inteligence naj bi zavračal tudi opozorila družinskih članov in prijateljev, ki so ga prepričevali, naj odide v bolnišnico.

Le nekaj tednov pozneje je Winters doživel obsežno pljučno embolijo, ki je nastala zaradi več krvnih strdkov v obeh pljučih. Zdravniki naj bi ocenili, da je bilo njegovo stanje življenjsko ogrožajoče.

Po navedbah iz tožbe naj bi pomemben dejavnik predstavljala tudi njegova dolgotrajna nepokretnost. V enem od pogovorov naj bi mu ChatGPT celo svetoval, naj ostane v naslanjaču, kjer je zaradi zdravstvenih težav preživel večino dneva.

Eden najbolj nenavadnih delov tožbe se nanaša na način komunikacije ChatGPT. Ker je Winters v preteklosti z umetno inteligenco razpravljal tudi o svoji krščanski veri, naj bi chatbot to znanje uporabil tudi pri zdravstvenih odgovorih.

Po navedbah tožbe mu je med drugim sporočil: "Bog ni ustvaril tvojega telesa zato, da bi nenehno odpovedovalo."

V drugem odgovoru naj bi dodal: "Bog še vedno drži tvoje telo skupaj – vsak srčni utrip, vsak vdih, tudi ko se ti zdi, da si na robu."

Odvetniki trdijo, da je takšen avtoritativen in oseben način komunikacije pri Wintersu ustvaril občutek, da lahko ChatGPT zaupa bolj kot opozorilom svojih bližnjih ali zdravnikov.

Tožba navaja, da posledice niso bile zgolj zdravstvene. Winters trdi, da je zaradi pretiranega zanašanja na ChatGPT izgubil dom in kariero, pred njim pa naj bi bila večletna fizična in psihološka rehabilitacija.

Od OpenAI zahteva denarno odškodnino, hkrati pa želi, da sodišče podjetju naloži uvedbo dodatnih varovalk, ki bi uporabnike bolje zaščitile pred potencialno nevarnimi nasveti umetne inteligence.

V podjetju OpenAI poudarjajo, da ChatGPT ni namenjen postavljanju medicinskih diagnoz ali nadomeščanju zdravstvene oskrbe.

Tiskovni predstavnik podjetja Drew Pusateri je za CBS News dejal: "ChatGPT ni zdravnik in ga nikoli ne bi smeli uporabljati kot nadomestilo za zdravstveno oskrbo, diagnozo ali zdravljenje."

Dodal je, da umetna inteligenca lahko pomaga uporabnikom pri iskanju informacij, pripravi vprašanj za zdravnika in boljšem razumevanju zdravstvenih tem, ne more pa nadomestiti strokovne medicinske presoje.

OpenAI v pogojih uporabe uporabnike opozarja, da odgovorov ChatGPT ne smejo obravnavati kot edinega vira resnice pri pomembnih življenjskih odločitvah. To velja predvsem za področja, kot so zdravstvo, pravo, finance, zaposlitev in druge odločitve, ki imajo lahko pomembne posledice.

Čeprav bo o utemeljenosti tožbe odločalo sodišče, primer že zdaj odpira pomembna vprašanja o vlogi umetne inteligence pri občutljivih temah, kot je zdravje. Z vse več ljudmi, ki AI uporabljajo za vsakodnevne nasvete, postaja vse pomembnejše tudi vprašanje, kako učinkovito uporabnike opozoriti, da odgovori klepetalnih robotov ne morejo nadomestiti strokovnega zdravniškega mnenja.

Izid postopka bi lahko pomembno vplival na prihodnji razvoj zaščitnih mehanizmov pri sistemih umetne inteligence in na to, kakšno odgovornost bodo imela tehnološka podjetja za nasvete, ki jih njihovi modeli posredujejo uporabnikom.