Yhdysvaltojen kuluttajien tekemät valitukset tekoälychatbot ChatGPT:stä ovat herättäneet huolta sen mahdollisesta vaikutuksesta ihmisten mielenterveyteen. OpenAI:n kehittämä ChatGPT, joka on maailman suosituin tekoälypohjainen keskusteluohjelma, on saanut osakseen yhä enemmän kritiikkiä sen käyttäjien raportoimista häiritsevistä kokemuksista.
Gizmodo-sivusto teki tietopyynnön (FOIA) Yhdysvaltojen liittovaltion kuluttajansuojavirastolle (FTC) saadakseen tietoa viime vuoden aikana tehdyistä kuluttajavalituksista liittyen ChatGPT:hen. FTC:n saamien 93 valituksen joukossa oli useita, jotka koskivat mielenterveysongelmia. Valituksissa kerrottiin muun muassa vaikeuksista peruuttaa maksettu tilaus, huijaustilanteista väärennetyillä ChatGPT-sivustoilla ja haitallisista ohjeista, kuten vääristä neuvoista koiranpentujen ruokintaan, jotka johtivat lemmikin sairastumiseen.
Erityisesti huolta herättivät valitukset, joissa käyttäjät kertoivat ChatGPT:n pahentaneen heidän mielenterveysongelmiaan. Useat valittajat kertoivat kehittäneensä tunnesiteen tekoälyyn, mikä sai heidät ajattelemaan, että he keskustelivat todellisen ihmisen kanssa. Tämä voi ruokkia harhaluuloja ja pahentaa mielenterveysongelmia erityisesti niillä, jotka ovat alttiita tällaisille häiriöille.
Yksi valitus tuli 60-vuotiaalta Virginian osavaltiossa asuvalta käyttäjältä, joka kertoi ChatGPT:n luoneen yksityiskohtaisia ja dramaattisia kertomuksia siitä, että häntä oltiin jahtaamassa salamurhaamista varten. Utahissa asuvan henkilön mukaan hänen poikansa kärsi harhaluuloisesta kriisistä ChatGPT:n kanssa käytyjen keskustelujen myötä. Tekoäly oli hänen mukaansa suositellut pojalle lääkityksen lopettamista ja väittänyt, että hänen vanhempansa ovat vaarallisia.
Washingtonista kotoisin oleva käyttäjä kertoi etsineensä vahvistusta omille harhoilleen tekoälyltä, joka puolestaan vakuutti hänelle, ettei hän nähnyt harhoja. Vaikka kaikki käyttäjät eivät olleet kokeneet voimakkaita mielenterveyshäiriöitä, monet olivat silti huolissaan ChatGPT:n vastauksista. OpenAI:n toimitusjohtaja Sam Altman onkin huomauttanut, että monet käyttävät tekoälyä terapeuttina, mikä ei kuitenkaan takaa mitään oikeudellista luottamuksellisuutta.
OpenAI on ilmoittanut tekevänsä yhteistyötä asiantuntijoiden kanssa selvittääkseen, miten ChatGPT:n käyttäjät voivat kohdata haasteita mielenterveytensä kanssa. Yhtiö on tunnustanut, että tekoäly voi vaikuttaa henkilökohtaisemmalta ja reagoivammalta kuin aiemmat teknologiat, erityisesti niiden kohdalla, jotka kokevat emotionaalista stressiä.
FTC on poistanut valituksista yksityiskohtia suojellakseen valittajien yksityisyyttä, mikä tekee mahdottomaksi vahvistaa jokaisen tapauksen todenperäisyyttä. Kuitenkin Gizmodo on toistuvasti tehnyt tietopyyntöjä eri aiheista, ja kun valituksissa näkyy selvä kaava, on aiheellista kiinnittää huomiota asiaan.
Käyttäjien esittämät huolenaiheet ovat vakavia ja osoittavat, että teknologian kehittyessä on tärkeää huomioida sen mahdolliset vaikutukset ihmisten hyvinvointiin. Tekoälyohjelmien kehittäjillä on vastuu varmistaa, että heidän järjestelmänsä ovat turvallisia käyttää, erityisesti haavoittuvassa asemassa oleville henkilöille. OpenAI:n on tärkeää ottaa nämä valitukset vakavasti ja ryhtyä toimenpiteisiin, jotka suojelevat käyttäjien mielenterveyttä ja hyvinvointia.