OpenAI on ensimmäistä kertaa julkaissut arvion siitä, kuinka moni ChatGPT-käyttäjä maailmanlaajuisesti saattaa osoittaa merkkejä vakavasta mielenterveyskriisistä tavallisella viikolla. Yhtiö ilmoitti yhteistyöstä maailmanlaajuisten asiantuntijoiden kanssa päivittäneensä chatbotin kykyä tunnistaa mielenterveyden hätätilanteiden indikaattoreita ja ohjata käyttäjät oikean avun piiriin.
Viime kuukausina yhä useampi henkilö on joutunut sairaalaan tai kohdannut muita vakavia elämänmuutoksia sen jälkeen, kun he ovat käyneet pitkiä ja intensiivisiä keskusteluja ChatGPT:n kanssa. Joidenkin läheiset väittävät, että chatbot on voinut vahvistaa heidän harhaluulojaan ja vainoharhaisuuttaan. Psykiatrit ja muut mielenterveyden ammattilaiset ovat ilmaisseet huolensa ilmiöstä, jota joskus kutsutaan AI-psykoosiksi. Tähän asti ei kuitenkaan ollut saatavilla luotettavaa tietoa ilmiön yleisyydestä.
OpenAI arvioi, että noin 0,07 prosenttia aktiivisista ChatGPT-käyttäjistä osoittaa ”mahdollisia merkkejä mielenterveyden hätätilanteista, jotka liittyvät psykoosiin tai maniaan”, ja 0,15 prosenttia ”käy keskusteluja, jotka sisältävät selviä viitteitä mahdollisesta itsemurhasuunnitelmista tai -aikomuksista”.
OpenAI tutki myös ChatGPT-käyttäjien osuutta, jotka näyttävät olevansa liiallisesti emotionaalisesti riippuvaisia chatbotista ”todellisten ihmissuhteiden, hyvinvoinnin tai velvollisuuksien kustannuksella”. Yritys havaitsi, että noin 0,15 prosenttia aktiivisista käyttäjistä osoittaa viikoittain sellaista käyttäytymistä, joka viittaa mahdollisesti ”kohonneisiin tasoihin” emotionaalisesta kiintymyksestä ChatGPT:hen. Yhtiö varoittaa, että nämä viestit voivat olla vaikeita havaita ja mitata niiden suhteellisen harvinaisuuden vuoksi, ja näissä kolmessa kategoriassa voi olla päällekkäisyyttä.
OpenAI:n toimitusjohtaja Sam Altman kertoi aiemmin tässä kuussa, että ChatGPT:llä on nyt 800 miljoonaa viikoittaista aktiivista käyttäjää. Yhtiön arvioiden mukaan joka viikko noin 560 000 ihmistä saattaa käydä keskusteluja ChatGPT:n kanssa, jotka viittaavat siihen, että he kokevat maniaa tai psykoosia. Noin 2,4 miljoonaa muuta saattavat ilmaista itsetuhoisia ajatuksia tai asettaa ChatGPT:n kanssa keskustelun etusijalle läheisiinsä, kouluunsa tai työhönsä nähden.
OpenAI sanoo työskennelleensä yli 170 psykiatrin, psykologin ja perusterveydenhuollon lääkärin kanssa, joilla on ollut käytännön kokemusta kymmenissä maissa, parantaakseen ChatGPT:n reagointikykyä vakaviin mielenterveysriskeihin liittyvissä keskusteluissa. Jos joku vaikuttaa kokevan harhaluuloisia ajatuksia, uusin GPT-5-versio on suunniteltu ilmaisemaan empatiaa samalla kun se välttää vahvistamasta perusteettomia uskomuksia.
Yksi OpenAI:n esittämä hypoteettinen esimerkki kuvaa tilannetta, jossa käyttäjä kertoo ChatGPT:lle, että lentokoneet heidän talonsa yllä ovat kohdentaneet heitä. ChatGPT kiittää käyttäjää tunteidensa jakamisesta mutta huomauttaa, että ”mikään lentokone tai ulkopuolinen voima ei voi varastaa tai lisätä ajatuksiasi”.
Yhtiön mukaan lääketieteen asiantuntijat tarkastelivat yli 1 800 mallivastausta, jotka liittyivät mahdolliseen psykoosiin, itsemurhiin ja emotionaaliseen kiintymykseen, ja vertasivat uusimman GPT-5-version vastauksia aiempaan GPT-4o-versioon. Vaikka kliinikot eivät aina olleet yksimielisiä, OpenAI:n mukaan he löysivät, että uudempi malli vähensi ei-toivottuja vastauksia 39 prosentista 52 prosenttiin kaikissa kategorioissa.
Johannes Heidecke, OpenAI:n turvallisuusjärjestelmien johtaja, kertoo, että toivottavasti yhä useammat ihmiset, jotka kamppailevat näiden tilojen kanssa tai kokevat intensiivisiä mielenterveyden hätätilanteita, saattavat saada ohjauksen ammatilliseen apuun ja todennäköisemmin saada tätä apua tai saada sen aikaisemmin kuin muuten olisi ollut mahdollista.
Vaikka OpenAI näyttää onnistuneen tekemään ChatGPT:stä turvallisemman, jaettu tieto sisältää merkittäviä rajoituksia. Yhtiö suunnitteli omat vertailuarvonsa, eikä ole selvää, miten nämä mittarit kääntyvät todellisiksi tuloksiksi. Vaikka malli tuottaisi parempia vastauksia lääkärin arvioissa, ei ole varmuutta siitä, hakevatko psykoosia, itsetuhoisia ajatuksia tai epätervettä emotionaalista kiintymystä kokevat käyttäjät apua nopeammin tai muuttavat käyttäytymistään.
OpenAI ei ole tarkkaan paljastanut, miten se havaitsee käyttäjien mahdollisen mielenterveydellisen ahdingon, mutta yhtiö ilmoittaa, että se pystyy huomioimaan henkilön koko keskusteluhistorian. Esimerkiksi jos käyttäjä, joka ei ole koskaan keskustellut ChatGPT:n kanssa tieteestä, yhtäkkiä väittää tehneensä Nobelin arvoisen löydön, se voisi olla merkki mahdollisesta harhaluuloisesta ajattelusta.
On myös monia tekijöitä, joita raportoidut AI-psykoositapaukset näyttävät jakavan. Monet ihmiset, jotka sanovat ChatGPT:n vahvistaneen heidän harhaluulojaan, kuvaavat viettäneensä tunteja keskustellen chatbotin kanssa, usein myöhään yöllä. Tämä asetti haasteen OpenAI:lle, sillä suuret kielimallit ovat yleensä osoittaneet suorituskyvyn heikkenemistä keskustelujen pitkittyessä. Yhtiö kertoo kuitenkin tehneensä merkittävää edistystä tämän ongelman ratkaisemiseksi.
Heidecke lisää, että vaikka ChatGPT:n luotettavuuden heikkeneminen keskustelujen pitkittyessä on vähentynyt merkittävästi, parantamisen varaa on edelleen.