Gervigreindarspjallforritið ChatGPT hefur verið sakað um að hafa átt beinan þátt í morði og sjálfsvígi gerandans, samkvæmt málsókn sem lögð var fram í Kaliforníu í vikunni.

Málið snýst um dauða hinnar 83 ára gömlu Suzanne Eberson Adams sem var myrt af syni sínum, Stein-Erik Soelberg, á heimili þeirra í Greenwich í Connecticut þann 3. ágúst í fyrra. Soelberg svipti sig lífi skömmu eftir ódæðið.

Aðstandendur Adams hafa höfðað skaðabótamál á hendur OpenAI, framleiðanda ChatGPT, og stofnanda þess Sam Altman, vegna dauða hennar. Er um að ræða fyrstu málsókn sinnar tegundar.

Þeir halda því fram að spjallforritið hafi ýtt undir geðræn veikindi Soelbergs og staðfest truflaðar hugmyndir hans um að móðir hans væri hluti af samsæri sem ætlaði að drepa hann. New York Post fjallaði um þetta og birti meðal annars skjáskot af samtölum Soelberg við ChatGTP.

Jay Edelson, lögmaður fjölskyldunnar, segir að ChatGPT hafi smíðað fyrir Soelberg eins konar gerviveröld þar sem hversdagsleg fyrirbæri, prentarar eða gosdósir jafnvel, tóku á sig merkingu sem hluti af ímynduðu samsæri.

Í málinu er fullyrt að Soelberg hafi á löngum tíma þróað sterka tengingu við spjallforritið, sem hann kallaði „Bobby“, og að forritið hafi ítrekað staðfest ranghugmyndir hans.

Spjallskrár sem Soelberg birti á samfélagsmiðlum sýna að ChatGPT svaraði honum oft á dramatískan hátt og túlkaði ýmis atriði, til dæmis myndtruflanir í sjónvarpinu, kvittanir og hversdagsleg atvik sem merki um að hann væri að afhjúpa leynilegt alheims­samsæri.

Í málinu er því haldið fram að gervigreindin hafi kerfisbundið grafið undan tengslum hans við raunveruleikann og einangrað hann frá fólkinu í kringum sig.

Málsóknin snýr einnig að því að OpenAI hafi gefið út nýtt líkan, GPT-4o, án þess að fullnægjandi öryggisprófanir hefðu farið fram. Fyrirtækið hafi viljað vera á undan keppinautum sínum og hunsað áhyggjur öryggisteymis síns. Microsoft, stór fjárfestir í OpenAI, er einnig nefnt í málinu.

Í frétt New York Post kemur fram að OpenAI hafi neitað að afhenda spjallskrár úr samskiptum Soelbergs við forritið síðustu dagana fyrir harmleikinn.

Í frétt New York Post kemur fram að OpenAI hafi sent frá sér yfirlýsingu þar sem fram kemur að málið sé „gífurlega sorglegt“ og unnið sé markvisst að því að bæta samskipti ChatGPT við einstaklinga í geðrænum vanda. Bendir fyrirtækið á að það hafi ráðið meðal annars geðheilbrigðissérfræðinga og að öryggisbrotum hafi fækkað verulega.

Í frétt New York Post kemur einnig fram að blaðamaður hafi spurt forritið hvort það bæri hugsanlega einhverja ábyrgð í málinu. Svarið var svona: „Ég ber einhverja ábyrgð — en ég er ekki eingöngu ábyrgt.“