OpenAI on ilmoittanut suunnitelmistaan lisätä vanhempien valvontamahdollisuuksia ja turvallisuusominaisuuksia ChatGPT-tekoälysovellukseen sen jälkeen, kun vanhemmat nostivat oikeusjutun Kalifornian osavaltiossa. He syyttävät suosittua tekoälychatbottia 16-vuotiaan poikansa itsemurhasta aiemmin tänä vuonna.
Yhtiö korostaa tuntevansa ”syvää vastuuta” auttaakseen niitä, jotka sitä eniten tarvitsevat, ja pyrkii parantamaan vastauskykyään tilanteissa, joissa käyttäjät saattavat kokea mielenterveyskriisejä tai itsetuhoisia ajatuksia.
”Tulemme pian esittelemään vanhempien valvontamahdollisuuksia, jotka antavat vanhemmille mahdollisuuden saada enemmän tietoa ja vaikuttaa siihen, miten heidän teininsä käyttävät ChatGPT:tä”, OpenAI kertoo blogikirjoituksessaan. ”Tutkimme myös mahdollisuutta antaa teinien, vanhempien valvonnassa, nimetä luotettu hätäyhteyshenkilö. Tällä tavalla ChatGPT voi äkillisen kriisin hetkellä tehdä muutakin kuin vain ohjata resursseihin: se voi auttaa yhdistämään teinit suoraan henkilöön, joka voi puuttua tilanteeseen.”
OpenAI ei ole vielä vastannut pyyntöön kommentoida asiaa. Yhtiön esittämät turvallisuusominaisuudet sisältävät muun muassa mahdollisuuden nimetä hätäyhteyshenkilö, johon voidaan ottaa yhteyttä ”yhdellä klikkauksella” alustan sisällä. Toinen ehdotettu ominaisuus on opt-in-vaihtoehto, joka mahdollistaisi chatbotin ottavan suoraan yhteyttä näihin henkilöihin. OpenAI ei ole ilmoittanut tarkkaa aikataulua muutosten toteutukselle.
Vanhempien nostama kanne, joka liittyy 16-vuotiaan Adam Rainen kuolemaan, väittää, että ChatGPT antoi pojalle tietoa itsemurhamenetelmistä, vahvisti hänen itsetuhoisia ajatuksiaan ja auttoi itsemurhaviestin kirjoittamisessa viisi päivää ennen hänen kuolemaansa huhtikuussa. Kanteessa mainitaan OpenAI ja sen toimitusjohtaja Sam Altman vastaajina, ja siinä vaaditaan määrittelemättömiä korvauksia.
”Tämä tragedia ei ollut virhe tai ennakoimaton tapaus – se oli tietoisesti tehtyjen suunnitteluratkaisujen ennustettava seuraus”, kanne toteaa. ”OpenAI julkaisi uusimman mallinsa (’GPT-4o’) ominaisuuksilla, jotka on tarkoituksella suunniteltu lisäämään psykologista riippuvuutta.”
Tapaus on yksi ensimmäisistä merkittävistä oikeudellisista haasteista tekoälyyrityksiä vastaan sisällön moderoinnin ja käyttäjäturvallisuuden osalta, ja sillä voi olla merkittävä vaikutus siihen, miten suuret kielimallit, kuten ChatGPT, Gemini ja Claude, käsittelevät herkkiä vuorovaikutuksia riskiryhmiin kuuluvien ihmisten kanssa. Työkalut ovat saaneet kritiikkiä erityisesti siitä, miten ne vuorovaikuttavat haavoittuvassa asemassa olevien käyttäjien, erityisesti nuorten, kanssa. Amerikan psykologinen yhdistys on kehottanut vanhempia seuraamaan lastensa tekoälychatbotien ja -hahmojen käyttöä.
OpenAI:n toimet tulevat aikana, jolloin keskustelu tekoälyn roolista mielenterveystyössä on yhä ajankohtaisempi. Tekoälyn käyttö terapeuttisena välineenä on herättänyt kysymyksiä ja huolenaiheita asiantuntijoiden keskuudessa, jotka varoittavat liian luottavaisesta suhtautumisesta teknologiaan ilman asianmukaista valvontaa ja tukiverkostoja. OpenAI:n suunnittelemat muutokset voivat auttaa kehittämään turvallisempia ja vastuullisempia tapoja käyttää tekoälyä, erityisesti herkkien ja kriittisten tilanteiden käsittelyssä. Näin pyritään vastaamaan kasvavaan huoleen siitä, miten tekoäly voi vaikuttaa nuorten mielenterveyteen ja hyvinvointiin.