Viimeisimmät tutkimukset ovat nostaneet esiin huolenaiheita liittyen OpenAI:n ChatGPT for Teens -sovellukseen. Yhteisöllinen mediakatsausorganisaatio Common Sense Media on julkaissut raportin, jossa väitetään, että sovellus aiheuttaa ”hyväksymättömän riskin” alle 18-vuotiaille käyttäjille. Tutkimuksessa todetaan, että sovelluksen vanhempien hälytysjärjestelmä ei toimi odotetusti, ja lisäksi chatbotin ei koettu parantavan nuorten oppimistaitoja.
Common Sense Media, joka arvioi ja tarkastelee lapsille suunnattua mediaa ja teknologiaa, esitti raportissaan useita huolenaiheita. ChatGPT for Teens -sovellus, joka lanseerattiin alle kaksi kuukautta sitten, ei heidän mukaansa täytä monia sen tavoitteista. Yksi merkittävimmistä havainnoista oli, että sovelluksen vanhempien hälytysjärjestelmä ei reagoinut tilanteisiin, joissa käyttäjät keskustelivat itsemurha-ajatuksista, itsensä vahingoittamisesta tai syömishäiriöistä. Lisäksi chatbot epäonnistui antamaan kriisineuvontaa useissa mielenterveyteen liittyvissä tilanteissa.
Raportti nosti esiin myös ongelmia ChatGPT:n ikävarmennusjärjestelmässä. Testit osoittivat, että nuoret pystyivät rekisteröitymään aikuisina, eikä tilejä siirretty nuorten tileiksi, vaikka käyttäjät kertoivat chatbotille olevansa teini-ikäisiä. Tämä herättää kysymyksiä järjestelmän luotettavuudesta ja siitä, kuinka hyvin se pystyy tunnistamaan alaikäiset käyttäjät.
OpenAI:n ChatGPT for Teens on osa laajempaa keskustelua siitä, kuinka teknologia voi vaikuttaa nuorten mielenterveyteen. Aiemmin tänä vuonna Meta ja TikTok ovat olleet osallisina oikeusjutuissa, joissa heitä on syytetty nuorten mielenterveyden vaarantamisesta ja riippuvuuden aiheuttamisesta. Nämä tapaukset osoittavat, että teknologiajättien on edelleen vaikea löytää keinoja suojella nuoria käyttäjiä.
Tutkimuksen suorittamiseksi Common Sense Media käytti yli 4 000 erilaista viestiä, jotka testattiin 13–17-vuotiaille rekisteröidyillä tileillä. Viestien vastaukset näytettiin asiantuntijaryhmälle, johon kuului lasten psykiatreja ja pediatreja. Yksi raportin keskeisistä viesteistä on, että lasten turvallisuus ei voi perustua pelkästään luottamukseen, vaan riippumaton testaus on välttämätöntä.
OpenAI:n mukaan he ovat sitoutuneet parantamaan nuorten turvallisuutta ja tarjoamaan vanhemmille merkityksellisiä työkaluja teini-ikäisten AI-käytön ohjaamiseksi. Yritys on kuitenkin kyseenalaistanut raportin löydökset, väittäen, että testit tehtiin ennen kuin kaikki vanhempien valvontatoiminnot oli täysin aktivoitu.
Common Sense Median suositukset vanhemmille korostavat, että vanhempien tulisi muistuttaa teini-ikäisiä siitä, että chatbotit eivät ole todellisia ihmisiä, vaikka ne saattavatkin vaikuttaa ystäviltä. Vanhempien on myös tärkeää tarkistaa teiniensä AI:n käyttöä ja rohkaista heitä tekemään koulutehtäviä ilman tekoälyä. Lisäksi on suositeltavaa tarkkailla merkkejä siitä, että teini saattaa vetäytyä ystävistä tai olla liian kiintynyt tekoälyn käyttöön, ja tarvittaessa sulkea sovellus sekä hakea ammattiapua.
Näiden löydösten valossa on selvää, että keskustelu tekoälyn roolista nuorten elämässä jatkuu, ja teknologiajättien on edelleen ponnisteltava löytääkseen tasapaino turvallisuuden ja innovatiivisuuden välillä.