OpenAI on ottanut käyttöön uuden toimintatavan, jonka avulla vanhemmat ja huoltajat saavat tiedon, jos heidän teini-ikäinen lapsensa on suljettu pois ChatGPT:n käytöstä rikottuaan palvelun väkivaltapolitiikkaa. Tämän ilmoitusjärjestelmän on tarkoitus parantaa nuorten turvallisuutta verkossa ja antaa vanhemmille mahdollisuus puuttua tilanteisiin ajoissa.
Uusi ominaisuus on jatkumoa viime vuonna käyttöön otetuille vanhempien valvontamahdollisuuksille, joiden avulla vanhemmat voivat yhdistää omat tilinsä lastensa tileihin. Näiden valvontatyökalujen avulla vanhemmat voivat rajoittaa ChatGPT:n käyttöaikoja ja vähentää arkaluontoisen sisällön näkyvyyttä. Lisäksi järjestelmä lähettää ilmoituksia, jos chatbotti havaitsee merkkejä, että nuori voisi vahingoittaa itseään. Nyt tämä valvontajärjestelmä on laajennettu kattamaan myös mahdolliset väkivallan uhkat muita kohtaan.
OpenAI:n esimerkkitapauksessa vanhemmille lähetettiin ilmoitus ”tärkeästä päivityksestä”, joka koski nuoren käyttäjätilin sulkemista käyttöehtojen rikkomisen vuoksi. Ilmoituksessa vanhemmille tarjotaan mahdollisuus saada lisätietoja ja ohjeita tilanteen selvittämiseen.
Tämä uusi ominaisuus on kehitetty yhteistyössä Moonshot-yrityksen kanssa, joka on erikoistunut verkkoväkivallan seurantaan ja torjumiseen. Moonshotin perustaja Vidhya Ramalingam korostaa, että vanhempien informointi vakavissa tapauksissa on tärkeä ensimmäinen askel, jotta perheet voivat reagoida ajoissa ja hakea tarvittaessa apua. Tämäntyyppinen tiedonsaanti on yksi monista keinoista, joilla pyritään parantamaan nuorten turvallisuutta ChatGPT:n käytössä.
OpenAI:n päätös vahvistaa turvallisuusprotokolliaan tuli ajankohtaiseksi sen jälkeen, kun paljastui, että vuoden 2025 Tumbler Ridgen massamurhan epäilty oli käyttänyt ChatGPT:tä. Kanadalaiset viranomaiset vaativat yhtiötä parantamaan ilmoituskäytäntöjään sen jälkeen, kun ilmeni, että yhtiö ei ollut informoinut heitä ampujan tilin sulkemisesta. OpenAI:n johtaja Sam Altman esitti anteeksipyynnön tästä valvontavirheestä.
Ilmoitusjärjestelmän lisäksi OpenAI on lanseerannut uuden Study Mode -ominaisuuden, joka voidaan aktivoida suoraan vanhempien valvontatyökaluista. Tässä tilassa ChatGPT antaa vihjeitä ennen kysymyksiin vastaamista, auttaen näin opiskelijoita oppimaan ja syventämään tietämystään. Lisäksi teini-ikäisille käyttäjille, jotka viettävät pitkiä aikoja ChatGPT:n parissa, näytetään useammin muistutuksia taukojen pitämisestä, mikä tukee terveellisempiä teknologian käyttötapoja.
OpenAI:n pyrkimys parantaa nuorten käyttäjien turvallisuutta ja hyvinvointia verkossa heijastaa laajempaa suuntausta, jossa teknologiayritykset ottavat yhä enemmän vastuuta palvelujensa vaikutuksista yhteiskuntaan. Tämäntyyppiset innovatiiviset ratkaisut ovat tervetulleita lisäyksiä digitaaliseen maailmaan, jossa nuoret viettävät yhä enemmän aikaa. Vanhempien ja teknologiayritysten yhteistyöllä voidaan luoda turvallisempia ja tukevampia ympäristöjä nuorille käyttäjille, mikä puolestaan edistää terveiden verkkotapojen kehittymistä.