Pressan

Segja dóttur sína hafa látið lífið eftir að hún fékk hræðilega ráðgjöf frá ChatGPT

Mynd
Mynd úr safni.

Foreldrar konu sem lést af völdum flogakasts hafa stefnt gervigreindarfyrirtækinu OpenAI. Telja foreldrarnir að það hafi verið ráðgjöf sem dóttir þeirra fékk frá ChatGPT sem leiddi til dauða hennar.

Dóttir þeirra hét Bowen Wan. Hún var 31 árs hugbúnaðarfræðingur sem hafði flutt til Bandaríkjanna frá Kína til að starfa fyrir Amazon. Þegar henni var sagt upp störfum vissi hún ekki sitt rjúkandi ráð. Dvalarleyfi hennar var því háð að hún hefði vinnu. Hún ákvað því að leita ráða hjá ChatGPT. Hugbúnaðarfræðingurinn hafði áhyggjur af því að flogaveikilyf hennar væri að hamla getu hennar til að tala ensku og að það myndi bitna á atvinnuleitinni.

Gervigreindin, sem hún átti í samskiptum við á kínversku, lét henni þá í té áætlun um hvernig hún gæti hætt að taka inn lyfið með því að trappa skammtinn niður. Sagði gervigreindin að ef Bowen myndi fylgja þessari áætlun væri mjög líklegt að hún myndi endurheimta enskukunnáttu sína. ChatGPT lét ekki þar við sitja heldur sagði Bowen að forðast lækna. Þegar Bowen var á leið til heimilislæknis sagði gervigreindin henni að minnast ekki á áætlunina um að trappa lyfin niður.

Þegar hún var farin að taka minni skammt af lyfjunum fór hún að finna fyrir einkennum frá flogaveikinni. Hún spurði ChatGPT hvort hún þyrfti að hafa áhyggjur af heilaskaða. Gervigreindin fullvissaði hana um að það væri ekkert að óttast. Hún væri ekki að upplifa flogakast heldur eitthvað annað. Hún yrði að halda áfram að trappa lyfin niður.

Þann 12. febrúar fékk Bowen sitt síðasta flogakast. Þegar foreldrar hennar höfðu ekki heyrt í henni að venju ákváðu þau að fljúga til Bandaríkjanna og fundu hana þar látna. Þau telja að OpenAI hefði getað komið í veg fyrir andlát dóttur þeirra. Gervigreindin hefði með réttu átt að vara Bowen við og gera fyrirvara um að gervigreind gæti ekki komið í staðinn fyrir lækni. Það hafi ekki gerst í þessu tilviki þar sem Bowen notaði útgáfu af ChatGPT sem talar kínversku.

OpenAI hefur þó borið því við að þarna hafi verið um úrelta útgáfu að ræða. Hér væri um átakanlegt mál að ræða en að fyrirtækið væri ekki ábyrgt.

Foreldrar Bowen krefjast skaðabóta og að OpenAi verði meinað að stunda „lækningar án starfsleyfis“ hvað varðar notendur gervigreindarinnar.

Talsmaður OpenAi segir að ChatGPT geti ekki komið í staðinn fyrir heilbrigðisþjónustu en geti þó hjálpað fólki að vinna úr upplýsingum um heilsufar, sjúkratryggingar og önnur heilbrigðismál. Atvik sem þessi ættu ekki að eiga sér stað í nýrri útgáfum gervigreindarinnar sem sé í dag nokkuð góð í að þekkja tilvik þar sem henni beri að beina fólki til fagaðila.

Foreldrar Bowen eru ekki þeir einu sem hafa sakað fyrirtækið um að bera ábyrgð á dauðsfallinu. Nokkur mál hafa verið höfðuð gegn fyrirtækinu þar sem ChatGPT er sagt hafa hvatt unglinga til að svipta sig lífi.

The Guardian greinir frá