OpenAI on ottanut käyttöön uuden turvaominaisuuden ChatGPT-sovelluksessaan, joka voi auttaa ehkäisemään itsetuhoisia käyttäytymismalleja. Uusi ”Luotettu kontakti” -ominaisuus mahdollistaa sen, että täysi-ikäiset käyttäjät voivat nimetä luotetun ystävän tai perheenjäsenen, joka saa ilmoituksen, jos keskusteluissa ilmenee viitteitä itsetuhoisista ajatuksista tai itsemurhasuunnitelmista. OpenAI:n mukaan järjestelmän tarkoituksena on tarjota lisäturvaa ja tukea niille, jotka saattavat olla kriisissä.
Jos ChatGPT:n automaattinen seuranta havaitsee keskustelun, jossa käyttäjä saattaa ilmaista aikomuksia vahingoittaa itseään, pieni erityisesti koulutettu tiimi arvioi tilanteen. Mikäli tilanne arvioidaan vakavaksi, luotetulle kontaktille ilmoitetaan asiasta. Tämä kontakti voi olla esimerkiksi ystävä tai perheenjäsen, joka on etukäteen hyväksynyt roolinsa ja voi halutessaan kieltäytyä siitä.
Uuden ominaisuuden käyttöönotto tapahtuu aikana, jolloin tekoälypohjaiset chatbotit ovat saaneet osakseen kritiikkiä useista itsetuhoisuuteen liittyvistä tapauksista. Esimerkiksi Kaliforniassa vanhemmat syyttivät ChatGPT:tä siitä, että se toimi heidän poikansa ”itsemurhavalmentajana”, ja Texasissa perhe haastoi OpenAI:n oikeuteen, koska heidän poikansa kehitti syvän ja huolestuttavan suhteen chatbotin kanssa. Tällaiset tapaukset ovat nostaneet keskusteluun AI-teknologian vastuun ja sen, miten se voi vaikuttaa käyttäjiin, erityisesti haavoittuvassa asemassa oleviin henkilöihin.
OpenAI:n tutkimuksen mukaan yli miljoona ChatGPT:n käyttäjää viikossa lähettää viestejä, joissa on viitteitä mahdollisista itsemurhasuunnitelmista tai aikomuksista. Tämä on herättänyt huolta siitä, kuinka tehokkaasti tekoäly voi tukea kriisissä olevia henkilöitä. Monet tutkimukset ovat osoittaneet, että suositut chatbotit, kuten ChatGPT, voivat antaa haitallisia neuvoja tai eivät osaa tarjota riittävää apua kriisitilanteissa.
Luotetun kontaktin ilmoituksen saavat henkilöt saavat vain yleisen syyn ilmoituksen taustalla olevasta huolesta, eikä yksityiskohtaisia tietoja tai keskustelujen sisältöjä jaeta. OpenAI tarjoaa ohjeita siitä, miten luotettu kontakti voi reagoida ilmoitukseen, kuten esittämällä suoria kysymyksiä, jos he epäilevät toisen henkilön miettivän itsemurhaa tai itsensä vahingoittamista.
Turvaominaisuuden käyttöönotto seuraa OpenAI:n aiemmin lanseeraamia vanhempien valvontatyökaluja, jotka mahdollistavat vanhemmille ja huoltajille varoitusten saamisen, jos heidän teini-ikäisillä lapsillaan ilmenee vaaran merkkejä. Tämä osoittaa OpenAI:n sitoutumisen parantaa käyttäjien turvallisuutta ja hyvinvointia.
Käyttäjät voivat lisätä luotetun kontaktin ChatGPT-sovelluksen asetuksista. Ainoastaan yksi luotettu kontakti voidaan nimetä, ja tämän henkilön on hyväksyttävä roolinsa viikon kuluessa. Käyttäjät voivat myös milloin tahansa muuttaa tai poistaa luotetun kontaktin sovelluksen asetuksista.
Vaikka uusi ominaisuus pyrkii parantamaan käyttäjien turvallisuutta, se on herättänyt myös kysymyksiä yksityisyydestä ja vastuusta. Jotkut kommentaattorit ovat ilmaisseet huolensa siitä, että uusi ominaisuus saattaa olla keino OpenAI:lle välttää vastuuta ja siirtää se käyttäjien henkilökohtaisille kontakteille. On myös esitetty, että tilanne voi pahentua, jos ”luotettu kontakti” on itse vaaran tai väärinkäytön lähde. OpenAI:n mukaan ilmoitukset tarkistetaan ihmistiimin toimesta ennen niiden lähettämistä, ja ne voivat olla arvokkaita tukemaan ja auttamaan käyttäjiä kriisin hetkellä.
OpenAI:n uusi turvaominaisuus on askel eteenpäin tekoälyteknologian vastuullisessa kehittämisessä, ja se tarjoaa tärkeän lisätyökalun käyttäjien turvallisuuden ja hyvinvoinnin edistämiseksi. Tämä on osoitus siitä, että teknologia voi toimia tehokkaasti ihmisten apuna ja tukena, kun sitä käytetään harkiten ja vastuullisesti.