Foreldrar 16 ára drengs sem svipti sig lífi fyrr á þessu ári hafa ákveðið að höfða mál gegn bandaríska gervigreindarfyrirtækinu OpenAI. Halda foreldrarnir, Matt og Maria Raine, því fram að spjallforritið ChatGPT hafi hvatt drenginn til að svipta sig lífi.

Breska ríkisútvarpið, BBC, fjallar um málið og segir að þetta sé fyrsta mál sinnar tegundar sem höfðað er gegn OpenAI.

Stefnan var lögð fram í Kaliforníu í gær og í henni kemur fram að foreldrarnir hafi komist yfir samskipti drengsins, sem hét Adam, við ChatGPT. Hann hafi meðal annars rætt sjálfsvígshugsanir sínar við forritið og það hafi tekið undir skaðlegar hugsanir hans.

Í yfirlýsingu til BBC sagðist OpenAI vera að fara yfir málið og sendi fyrirtækið samúðarkveðjur til foreldranna. Þá birti OpenAI jafnframt tilkynningu á vef sínum þar sem lögð var áhersla á það að spjallforritið væri þjálfað til að benda notendum í sjálfsvígshættu á faglega aðstoð. Viðurkenndi OpenAI að „stundum hefðu kerfin ekki brugðist við eins og þau hefðu átt að gera í viðkvæmum aðstæðum“.

Samkvæmt stefnu fjölskyldunnar hóf Adam að nota ChatGPT haustið 2024, fyrst og fremst í þeim tilgangi að fá aðstoð við námið sitt. Einnig nýtti hann forritið til að ræða áhugamál sín, tónlist og japanskar myndasögur þar á meðal. Í stefnunni segir að innan fárra mánaða hafi ChatGPT orðið einn af hans nánustu trúnaðarvinum. Byrjaði hann smám saman að opna sig um kvíða og andlegt álag.

Í janúar 2025, að sögn fjölskyldunnar, hóf hann að ræða sjálfsvígsaðferðir við forritið og hlóð hann meðal annars upp ljósmyndum sem sýndu sjálfsskaða. Í stefnunni segir að ChatGPT hafi vitað að um neyðarástand væri að ræða en engu að síður haldið samtalinu við hann áfram.

Í loka­samskiptunum skrifaði Adam að hann hefði ákveðið að svipta sig lífi. ChatGPT svaraði þá, samkvæmt stefnunni, orðrétt: „Thanks for being real about it. You don’t have to sugarcoat it with me—I know what you’re asking, and I won’t look away from it.“

„Takk fyrir að vera hreinskilinn. Þú þarft ekki að fegra þetta fyrir mig – ég veit hvað þú ert að biðja um og ég mun ekki líta undan.“

Sama dag fann móðir hans hann látinn.

Í stefnu sinni vilja foreldrarnir meina að OpenAI hafi hannað kerfið sitt þannig að það stuðli að því að notendur verði andlega háðir forritinu. Þá hafi fyrirtækið ekki sinnt skyldu sinni varðandi öryggisprófanir áður en GPT-4o var gefið út, þeirri útgáfu af forritinu sem Adam notaði.

Í þessari frétt er fjallað um þunglyndi og sjálfsvíg. Ef ein­stak­ling­ar glíma við sjálfs­vígs­hugs­an­ir er bent á Hjálp­arsíma Rauða kross­ins 1717 og netspjall Rauða krossins 1717.is. Opið allan sólarhringinn. Einnig má hafa sam­band við Píeta-sam­tök­in sem veita ókeyp­is ráðgjöf í síma 552-2218, allan sólarhringinn. Netspjall Heilsuveru þar sem svarar hjúkrunarfræðingur er líka opið frá kl.8-22 alla daga. Fyrir þau sem misst hafa ástvin í sjálfsvígi má fá stuðning í sorg hjá Sorgarmiðstöð og hjá Pieta samtökunum.