OpenAI on lanseerannut uuden vapaaehtoisen turvaominaisuuden ChatGPT:lle, joka mahdollistaa täysi-ikäisten käyttäjien nimeämisen hätäyhteyshenkilöksi mielenterveyteen ja turvallisuuteen liittyvissä huolissa. Nimetyt ystävät, perheenjäsenet tai hoitajat, jotka toimivat ”Luotettuna yhteyshenkilönä”, saavat ilmoituksen, jos OpenAI havaitsee, että käyttäjä saattaa keskustella tekoälyavustajan kanssa asioista, kuten itsensä vahingoittamisesta tai itsemurhasta.
OpenAI korostaa, että Luotettu yhteyshenkilö -ominaisuus perustuu yksinkertaiseen, asiantuntijoiden vahvistamaan periaatteeseen: kun joku saattaa olla kriisissä, yhteydenpito luotettavaan henkilöön voi tehdä merkittävän eron. Tämä uusi turvakerros täydentää jo olemassa olevia paikallisia tukipalvelunumeroita, jotka ovat saatavilla ChatGPT:ssä.
Kyseinen ominaisuus on valinnainen, ja se voidaan ottaa käyttöön lisäämällä toisen aikuisen (18+ maailmanlaajuisesti tai 19+ Etelä-Koreassa) yhteystiedot käyttäjän ChatGPT-tilin asetuksiin. Luotetun yhteyshenkilön tulee hyväksyä kutsu viikon kuluessa sen vastaanottamisesta. Käyttäjät voivat muokata tai poistaa valitsemansa yhteyshenkilön asetuksista, ja myös Luotettu yhteyshenkilö voi poistaa itsensä milloin tahansa.
OpenAI ilmoittaa, että lähettävä ilmoitus on tarkoituksellisesti rajoitettu, eikä se jaa keskustelutietoja tai viestien sisältöä Luotetun yhteyshenkilön kanssa. Jos OpenAI:n automaattiset järjestelmät havaitsevat, että käyttäjä puhuu itsensä vahingoittamisesta, ChatGPT kannustaa käyttäjää ottamaan yhteyttä Luotettuun yhteyshenkilöön saadakseen apua, ja ilmoittaa, että yhteyshenkilö saattaa saada tiedon. Erityisesti koulutettu pieni tiimi tarkistaa tilanteen, ja jos tilanne arvioidaan vakavaksi, Luotettu yhteyshenkilö saa lyhyen sähköpostin, tekstiviestin tai sovelluksen sisäisen ilmoituksen ChatGPT:ltä.
Tämä ominaisuus laajentaa syyskuussa käyttöön otettua hätäyhteyshenkilötoimintoa, joka esiteltiin ChatGPT:n vanhempien valvontatyökalujen yhteydessä. Tämä tapahtui sen jälkeen, kun 16-vuotias teki itsemurhan kuukausien ajan luotettuaan ChatGPT:hen. Samankaltaisen ominaisuuden on ottanut käyttöön myös Meta, joka ilmoittaa vanhemmille, jos heidän lapsensa etsivät toistuvasti itsensä vahingoittamiseen liittyviä aiheita Instagramissa.
OpenAI:n uusi turvaominaisuus on osa laajempaa yritystä parantaa käyttäjien turvallisuutta ja hyvinvointia tekoälyyn perustuvien sovellusten yhteydessä. Teknologiayritykset ympäri maailman ovat viime vuosina lisänneet panostuksiaan käyttäjien turvallisuuden varmistamiseksi, erityisesti nuorten käyttäjien kohdalla. Tällaiset toimenpiteet korostavat vastuullisuuden merkitystä teknologian kehityksessä ja käytössä.
Vaikka tekoäly tarjoaa lukuisia mahdollisuuksia, siihen liittyy myös riskejä, jotka vaativat huolellista hallintaa. OpenAI:n uusi Luotettu yhteyshenkilö -ominaisuus on askel oikeaan suuntaan, tarjoten käyttäjille lisätukea ja turvaa tekoälyn käytön yhteydessä. Näin varmistetaan, että tekoäly ei ainoastaan paranna arkipäivän toimintoja, vaan tukee myös käyttäjien emotionaalista ja henkistä hyvinvointia.