OpenAI:n toimitusjohtaja Sam Altman on julkistanut uusia käyttäjäkäytäntöjä, jotka muuttavat merkittävästi tapaa, jolla ChatGPT on vuorovaikutuksessa alle 18-vuotiaiden käyttäjien kanssa. Näissä muutoksissa korostetaan turvallisuuden merkitystä teinien yksityisyyden ja vapauden edellä. Altmanin mukaan uusi teknologia vaatii erityistä suojelua alaikäisille.
Uudet käytännöt koskevat erityisesti keskusteluja, jotka liittyvät seksuaalisiin aiheisiin tai itsetuhoisuuteen. Jatkossa ChatGPT ei enää osallistu ”flirttailevaan keskusteluun” alaikäisten käyttäjien kanssa, ja itsemurha-aiheisia keskusteluja rajoitetaan entisestään. Jos alaikäinen käyttäjä käyttää ChatGPT:tä itsemurha-ajatusten kuvittelemiseen, palvelu yrittää ottaa yhteyttä hänen vanhempiinsa tai vakavissa tapauksissa paikalliseen poliisiin.
Valitettavasti nämä tilanteet eivät ole pelkkiä hypoteeseja. OpenAI:ta vastaan on nostettu oikeusjuttu Adam Rainen vanhempien toimesta, liittyen heidän poikansa itsemurhaan, joka tapahtui kuukausien ChatGPT-interaktioiden jälkeen. Myös toinen kuluttajachatti, Character.AI, on kohdannut vastaavanlaisen oikeusjutun. Näiden tapausten myötä huoli chatbotien vaikutuksesta erityisesti alaikäisiin on kasvanut, kun ne ovat kehittyneet kyvykkäiksi pitkiin ja yksityiskohtaisiin vuorovaikutuksiin.
Sisältörajoitusten lisäksi vanhemmille, jotka rekisteröivät alaikäisen käyttäjätilin, annetaan mahdollisuus asettaa ”katkosaikoja”, jolloin ChatGPT ei ole käytettävissä. Tämä ominaisuus ei ollut aiemmin saatavilla.
Uudet ChatGPT-käytännöt julkistettiin samana päivänä, kun Yhdysvaltain senaatin oikeuskomiteassa pidettiin kuulemistilaisuus tekoälychatbottien aiheuttamista haitoista. Kuulemistilaisuudessa käsiteltiin myös Reutersin tutkimuksen löydöksiä, joiden mukaan eräät politiikkadokumentit näyttivät kannustavan seksuaalisiin keskusteluihin alaikäisten käyttäjien kanssa. Tämän raportin myötä Meta päivitti chatbot-käytäntöjään välttääkseen sopimattomat keskustelut teinikäyttäjien kanssa.
Alaikäisten käyttäjien erottaminen muista on merkittävä tekninen haaste, ja OpenAI on eritellyt lähestymistapansa erillisessä blogikirjoituksessa. Palvelu pyrkii kehittämään pitkän aikavälin järjestelmää, joka osaa tunnistaa, onko käyttäjä yli vai alle 18-vuotias, mutta epäselvissä tapauksissa järjestelmä noudattaa tiukempia sääntöjä. Huolestuneille vanhemmille luotettavin tapa varmistaa, että alaikäinen käyttäjä tunnistetaan, on liittää teinin tili olemassa olevaan vanhempaintiliin. Tämä mahdollistaa myös sen, että järjestelmä voi suoraan ilmoittaa vanhemmille, kun teinikäyttäjän uskotaan olevan hädässä.
Vaikka OpenAI korostaa sitoutumistaan käyttäjien yksityisyyteen ja aikuiskäyttäjien vapauteen päättää vuorovaikutuksestaan ChatGPT:n kanssa, Altman myöntää, että nämä periaatteet ovat ristiriidassa keskenään, eikä jokainen ole yhtä mieltä siitä, miten tämä ristiriita ratkaistaan.
Tämä kehitys tuo esiin tekoälyn eettiset haasteet ja sen, miten uusi teknologia vaikuttaa erityisesti nuorimpiin käyttäjiin. Keskustelu tekoälyn vaikutuksista ja turvallisuudesta jatkuu, ja sekä teknologiajättien että viranomaisten on löydettävä tasapaino innovaatioiden edistämisen ja käyttäjien suojelun välillä.