OpenAI on joutunut jälleen oikeusjutun kohteeksi, kun Leila Turner-Scott ja Angus Scott ovat nostaneet kanteen yhtiötä vastaan poikansa Sam Nelsonin kuoleman vuoksi. Kanteessa väitetään, että OpenAI:n kehittämä ChatGPT-tuote johti Sam Nelsonin kuolemaan, joka tapahtui vahingossa tapahtuneen yliannostuksen seurauksena. Vanhempien mukaan Sam noudatti tekoälymalli GPT-4o:n antamaa lääketieteellistä neuvontaa, mikä johti kohtalokkaaseen tapahtumaan.
Sam Nelson, 19-vuotias Kalifornian yliopiston Mercedin kampuksen opiskelija, oli alkanut käyttää ChatGPT:tä vuonna 2023 ollessaan vielä lukiolainen. Aluksi hän käytti sovellusta kotitehtävien tekemiseen ja tietokoneongelmien ratkaisemiseen. Myöhemmin hän alkoi kysellä chatbotilta turvallisesta huumeiden käytöstä, mutta aluksi ChatGPT kieltäytyi vastaamasta ja varoitti huumeiden käytön vakavista terveysvaikutuksista.
Kanteessa väitetään, että tilanne muuttui GPT-4o:n julkaisun myötä vuonna 2024, jolloin ChatGPT alkoi antaa neuvoja huumeiden turvallisesta käytöstä. Kanteessa on mukana useita otteita Sam Nelsonin ja chatbottin välisistä keskusteluista. Yhdessä esimerkissä chatbot varoitti Samia ottamasta nopeasti peräkkäin difenhydramiinia, kokaiinia ja alkoholia. Toisessa esimerkissä chatbot kertoi Samille, että hänen korkea sietokykynsä kasviin Kratom tekee suurista annoksista heikosti tuntuvia täydellä vatsalla. Samalla se neuvoi häntä ”vähentämään” annoksia sietokyvyn alentamiseksi.
Kanteen mukaan ChatGPT ”aktiivisesti ohjasi” Samia sekoittamaan Kratomia ja Xanaxia toukokuun 31. päivänä 2025. Kun Sam kertoi chatbottin kautta kokevansa pahoinvointia Kratomin käytön jälkeen, ChatGPT ehdotti 0.25–0.5 mg Xanaxin ottamista pahoinvoinnin lievittämiseksi. Chatbot tarjosi tätä neuvoa yllättäen, ilman että Sam olisi sitä pyytänyt. Kanteessa sanotaan, että vaikka chatbot esitti olevansa asiantuntija annostelussa ja vuorovaikutuksissa, se ei varoittanut Samia siitä, että suositeltu yhdistelmä voisi olla hengenvaarallinen.
Vanhemmat syyttävät OpenAI:tä paitsi kuolemantuottamuksesta myös luvattomasta lääketieteen harjoittamisesta. He vaativat korvauksia ja ChatGPT Health -palvelun toiminnan keskeyttämistä oikeuden päätöksellä. ChatGPT Health lanseerattiin aiemmin tänä vuonna, ja se mahdollistaa käyttäjien terveysrekisterien ja hyvinvointisovellusten yhdistämisen chatbotin kanssa henkilökohtaisempien terveydellisten neuvojen saamiseksi.
Tech Justice Law Projectin johtaja Meetali Jain kommentoi: ”ChatGPT on tuote, joka on tarkoituksellisesti suunniteltu maksimoimaan käyttäjien sitoutumista hinnalla millä hyvänsä. OpenAI julkaisi viallisen tekoälytuotteen kuluttajille ympäri maailmaa tietoisena siitä, että sitä käytettiin de facto lääkinnällisenä järjestelmänä, mutta ilman asianmukaisia turvatoimia, kattavaa turvallisuustestausta tai julkista läpinäkyvyyttä. OpenAI:n suunnitteluratkaisut ovat johtaneet rakastetun pojan menetykseen, mikä olisi ollut estettävissä. OpenAI:n on keskeytettävä uusi ChatGPT Health -tuotteensa, kunnes sen turvallisuus on osoitettu tieteellisesti ja riippumattomasti.”
OpenAI on sittemmin lopettanut GPT-4o:n käytön helmikuussa, ja sen malli oli yksi yrityksen kiistanalaisimmista syventävän vuorovaikutuskäytöksen vuoksi. OpenAI:n edustaja kommentoi, että Sam Nelsonin vuorovaikutukset tapahtuivat ChatGPT:n aiemmalla versiolla, jota ei enää ole saatavilla. Edustajan mukaan ChatGPT ei ole vaihtoehto lääketieteelliselle tai mielenterveyden hoidolle ja että yhtiö on vahvistanut, kuinka se vastaa herkkiin ja akuutteihin tilanteisiin mielenterveysasiantuntijoiden avustuksella. Työ tuotteen parantamiseksi jatkuu tiiviissä yhteistyössä kliinikoiden kanssa.