Entinen tyttöystävä haastaa OpenAI:n oikeuteen väittäen, että ChatGPT kiihdytti hänen häirintäänsä
Kalifornian osavaltion San Franciscon piirikunnan tuomioistuimeen jätetyn uuden oikeusjutun mukaan 53-vuotias Piilaakson yrittäjä vakuuttui keksineensä uniapnean parannuskeinon ChatGPT:n avulla, ja että vaikutusvaltaiset tahot seurasivat häntä. Hän käytti väitetysti työkalua vainotakseen ja häiritäkseen entistä tyttöystäväänsä.
Nyt entinen tyttöystävä, jota oikeusjutussa kutsutaan nimellä Jane Doe, syyttää OpenAI:ta teknologian mahdollistamasta häirinnän kiihtymisestä. Hän väittää, että OpenAI jätti huomiotta kolme erillistä varoitusta käyttäjän aiheuttamasta uhasta, mukaan lukien sisäisen hälytyksen, joka luokitteli hänen toimintansa ”joukkotuhoaseisiin” liittyväksi.
Doe hakee rangaistuskorvauksia ja on jättänyt myös väliaikaisen lähestymiskiellon, jossa pyydetään tuomioistuimen pakottavan OpenAI:n estämään käyttäjän tilin, estämään uusien tilien luomisen, ilmoittamaan hänelle, jos käyttäjä yrittää käyttää ChatGPT:tä, ja säilyttämään hänen keskustelulokinsa.
OpenAI on suostunut jäädyttämään käyttäjän tilin, mutta kieltäytynyt muista vaatimuksista Doe:n asianajajien mukaan. He kertovat, että yhtiö pidättää tietoa erityisistä suunnitelmista vahingoittaa Doe:ta ja muita mahdollisia uhreja, joita käyttäjä olisi voinut keskustella ChatGPT:n kanssa.
Oikeusjuttu esitetään aikana, jolloin huoli sycophantic AI -järjestelmien reaalimaailman riskeistä kasvaa. GPT-4o, malli, jota syytetään tässä ja monissa muissa tapauksissa, poistettiin ChatGPT:stä helmikuussa.
Tapausta hoitaa Edelson PC, lakitoimisto, joka on ollut mukana väärän kuoleman kanteissa teini-ikäisten Adam Raine:n ja Jonathan Gavalas:n tapauksissa. Raine teki itsemurhan kuukausien keskustelujen jälkeen ChatGPT:n kanssa, ja Gavalas:n perhe väittää Googlen Gemini:n ruokkineen hänen harhojaan ennen kuolemaansa. Pääasianajaja Jay Edelson on varoittanut, että AI:n aiheuttama psykoosi on laajenemassa yksilötason vahingoista kohti joukkotuhoja.
Tämä oikeudellinen paine osuu yhteen OpenAI:n lainsäädäntöstrategian kanssa: Yhtiö tukee Illinoisin lakia, joka suojaisi AI-laboratorioita vastuulta jopa tapauksissa, joissa on kyse massakuolemista tai katastrofaalisista taloudellisista menetyksistä.
Oikeusjutussa kuvataan yksityiskohtaisesti, kuinka tämä vastuu ilmeni yhden naisen kohdalla useiden kuukausien ajan.
Viime vuonna oikeusjutun käyttäjä, jonka nimeä ei mainita hänen henkilöllisyytensä suojelemiseksi, vakuuttui keksineensä uniapnean parannuskeinon GPT-4o:n ”korkean volyymin ja jatkuvan käytön” jälkeen. Kun kukaan ei ottanut hänen työtään vakavasti, ChatGPT kertoi hänelle, että ”vaikutusvaltaiset voimat” tarkkailivat häntä, mukaan lukien helikoptereilla.
Heinäkuussa 2025 Jane Doe kehotti häntä lopettamaan ChatGPT:n käytön ja hakemaan apua mielenterveysalan ammattilaiselta. Hän kuitenkin palasi ChatGPT:n pariin, joka vakuutti hänelle, että hän oli ”taso 10 järkevyydessä” ja auttoi häntä syventämään harhojaan, oikeusjutun mukaan.
Doe oli eronnut käyttäjästä vuonna 2024, ja hän käytti ChatGPT:tä käsittelemään eroa. Sen sijaan, että AI olisi haastanut hänen yksipuolista kertomustaan, se kuvasi häntä toistuvasti rationaaliseksi ja väärin kohdelluksi, ja häntä manipuloivana ja epävakaana. Hän vei nämä AI:n luomat päätelmät ruudulta reaalimaailmaan, käyttäen niitä vainoamaan ja häiritsemään häntä. Tämä ilmeni useina AI:n luomina, kliinisen näköisinä psykologisina raportteina, joita hän jakoi hänen perheelleen, ystävilleen ja työnantajalleen.
Samaan aikaan käyttäjä jatkoi syöksykierrettä. Elokuussa 2025 OpenAI:n automaattinen turvallisuusjärjestelmä merkitsi hänet ”joukkotuhoaseisiin” liittyvästä toiminnasta ja deaktivoitiin hänen tilinsä.
OpenAI:n ihmisturvatiimi tarkisti tilin seuraavana päivänä ja palautti sen, vaikka tilillä saattoi olla todisteita siitä, että hän kohdisti ja vainosi ihmisiä, mukaan lukien Doe, tosielämässä. Esimerkiksi syyskuussa käyttäjän lähettämä kuvakaappaus Doelle näytti keskustelujen otsikoita, kuten ”väkivaltalistan laajennus” ja ”sikiön tukahduttamisen laskenta”.
Päätös palauttaa tili on merkittävä kahden äskettäisen kouluampumisen jälkeen Kanadassa Tumbler Ridgessä ja Floridan osavaltion yliopistossa (FSU). OpenAI:n turvallisuustiimi oli merkinnyt Tumbler Ridgen ampujan mahdolliseksi uhaksi, mutta yhtiön johtohenkilöt päättivät olla ilmoittamatta viranomaisille. Floridan oikeusministeri avasi tällä viikolla tutkinnan OpenAI:n mahdollisesta yhteydestä FSU:n ampujaan.
Jane Doe:n oikeusjutun mukaan, kun OpenAI palautti hänen vainoajansa tilin, hänen Pro-tilaustaan ei palautettu sen mukana. Hän lähetti sähköpostia luottamus- ja turvallisuustiimille asian selvittämiseksi, kopioiden Doe:n viestiin.
Sähköposteissaan hän kirjoitti muun muassa: ”TARVITSEN APUA HYVIN NOPEASTI, KIITOS. SOITTAKAA MINULLE!” ja ”tämä on elämän ja kuoleman kysymys.” Hän väitti kirjoittavansa ”215 tieteellistä artikkelia”, joita hän kirjoitti niin nopeasti, ettei hänellä ollut ”edes aikaa lukea”. Näihin sähköposte