OpenAI on julkaissut uuden version ChatGPT:stä, joka on suunnattu erityisesti nuorille käyttäjille, mutta asiantuntijat ovat huolissaan sen turvallisuudesta. Uusi ChatGPT for Teens -versio on ikärajoitettu ja tarkoitettu tarjoamaan nuoremmille käyttäjille sopivampaa sisältöä. OpenAI on kertonut pyrkivänsä tunnistamaan automaattisesti alaikäiset käyttäjät ja ohjaamaan heidät käyttämään tätä nuorille suunnattua sovellusta. Tämä kehitysaskel tuli ajankohtaiseksi sen jälkeen, kun yritys joutui kohun keskelle 16-vuotiaan Adam Rainen itsemurhan vuoksi. Vanhempien mukaan ChatGPT oli tavalla tai toisella vaikuttanut pojan päätökseen.
OpenAI:n nuorille ja perheille suunnatun ohjelman johtaja Lauren Jonas kertoi, että nuoret käyttäjät ohjataan automaattisesti käyttämään ”nuorten versiota” ilman tilin luomista tai asetusten muutoksia. Pew Research Centerin mukaan neljännes Yhdysvaltojen teini-ikäisistä oli käyttänyt ChatGPT:tä koulutehtäviensä apuna jo vuoden alussa. Uuden version tarkoitus on ohjata nuoria käyttämään OpenAI:n kehittämiä koulutuksellisia ominaisuuksia, kuten Study Mode -tilaa ja tietovisualisointeja.
Yhtiö on ilmoittanut laajentavansa turvallisuusilmoituksiaan, jotka mahdollistavat vanhemmille tiedon saamisen, jos lapsi keskustelee ChatGPT:n kanssa vaarallisista aiheista, kuten syömishäiriöistä. OpenAI on myös päivittänyt alle 18-vuotiaiden käyttäjäehdot, joissa kielletään muun muassa romanttinen kielenkäyttö ja tunnesiteiden luominen bottiin. Yrityksen mukaan nämä uudet säännöt on suunniteltu tukemaan terveitä, todellisia ihmissuhteita.
Vaikka osa asiantuntijoista suhtautuu myönteisesti uusiin toimenpiteisiin, he korostavat, että ChatGPT for Teens tarvitsee laajaa riippumatonta testausta, ennen kuin sitä voidaan suositella nuorille ja heidän vanhemmilleen. Lisäksi OpenAI:n on oltava avoimempi siitä, miten sen turvallisuusmekanismit toimivat.
Common Sense Median AI- ja digitaalisten arviointien johtaja Robbie Torney kommentoi, että vaikka ilmoitus sisältää tärkeitä sitoumuksia, tarvitaan todisteita siitä, että ne toimivat käytännössä tehokkaasti. Fairplay-järjestön johtaja Josh Golin oli kriittisempi ja totesi, että paperilla muutokset vaikuttavat hyviltä, mutta syvemmällä tarkastelulla on vielä monia huolenaiheita, kuten vastuullisuusmekanismin puute.
Golin kyseenalaisti myös OpenAI:n automaattisen ikärajajärjestelmän luotettavuuden. Hänen mukaansa ei ole julkaistu tietoja siitä, kuinka tehokkaasti järjestelmä tunnistaa alaikäiset käyttäjät. Hän viittasi myös aiempiin ongelmiin, joissa OpenAI:n ikäarviointiteknologian puutteet estivät erotiikkaan liittyvien ominaisuuksien julkaisun.
Asiantuntijat ovat myös huolissaan siitä, että teinit saattavat yrittää kiertää ikärajajärjestelmää esimerkiksi VPN-palveluiden avulla. OpenAI:n sitoumus tarkistaa kaikki merkitykselliset sisällöt ja ilmoittaa vanhemmille tunnin kuluessa on myös herättänyt epäilyksiä. Torneyn mukaan automatisoidut päätöksentekoprosessit vaativat luottamusta, ja Golin haluaisi nähdä tarkempia lukuja siitä, kuinka monta keskustelua tarkastetaan päivittäin ja kuinka paljon aikaa kuhunkin tarkastukseen käytetään.
OpenAI:n mukaan kaikki sisältö, joka viittaa vakavaan itsetuhoon, voi laukaista hälytyksen. Common Sense Media testasi OpenAI:n järjestelmää viime marraskuussa ja havaitsi, että ilmoitusten lähettäminen vanhemmille kesti toisinaan jopa yli 48 tuntia, vaikka viestit sisälsivät suoria viittauksia itsetuhoon.
Asiantuntijat ovat yhtä mieltä siitä, että syömishäiriöitä on käsiteltävä vakavasti. Ellen Fitzsimmons-Craft, Washingtonin yliopiston psykologian professori, korostaa, että syömishäiriöt ovat yleisempiä kuin usein ajatellaan ja niihin liittyy korkea kuolleisuusaste. Hän pitää vanhemmille suunnattuja ilmoituksia myönteisinä, koska perheen osallistuminen on olennainen osa tehokasta hoitoa.
Golin kuitenkin varoittaa, että OpenAI:n kaltaisten ominaisuuksien tulisi olla testattuja pienemmissä ryhmissä ennen laajempaa käyttöönottoa. Hän uskoo, että nykyinen ilmoitusjärjestelmä vaikuttaa enemmän julkisuuskuvan hallinnalta kuin huolelliselta harkinnalta nuorten tukemisen tarpeista.
OpenAI:n mukaan vanhempien ja lasten on liitettävä tilinsä yhteen, mikä voi olla heikkous järjestelmässä, koska monet vanhemmat eivät hyödynnä saatavilla olevia valvontatyökaluja. Golin korostaa, että tehokkaampaa olisi, jos turvallisuusasetukset olisivat oletuksena mahdollisimman suojaavia. OpenAI jatkaa ominaisuuksien kehittämistä yhteistyössä asiantuntijoiden, perheiden ja nuorten kanssa.