OpenAI on ilmoittanut julkaisevansa avoimen lähdekoodin työkaluja, joiden avulla sovelluskehittäjät voivat rakentaa turvallisempia sovelluksia nuorille. Yhtiö on kehittänyt erityisiä ohjeita ja kehotteita, joita kehittäjät voivat hyödyntää tehdäkseen tekoälystä turvallisemman nuorille käyttäjille. Näitä ohjeita voidaan käyttää OpenAI:n avoimen lähdekoodin turvallisuusmallin, gpt-oss-safeguardin, kanssa.
Uusien ohjeiden tavoitteena on helpottaa kehittäjien työtä, jotta heidän ei tarvitse aloittaa tyhjästä miettiessään, miten tehdä tekoälystä turvallisempaa nuorille. Ohjeet käsittelevät muun muassa graafista väkivaltaa, seksuaalista sisältöä, haitallisia kehonkuvia ja käyttäytymistä, vaarallisia aktiviteetteja ja haasteita, sekä romanttisia tai väkivaltaisia roolileikkejä ja ikärajoitettuja tuotteita ja palveluita.
OpenAI:n mukaan nämä turvallisuusohjeet toimivat kehotteina, joten ne ovat helposti yhteensopivia muidenkin mallien kanssa kuin vain gpt-oss-safeguardin. Yhtiö on tehnyt yhteistyötä AI-turvallisuusvalvontaryhmien, kuten Common Sense Median ja everyone.ai:n, kanssa näiden kehotteiden laatimiseksi.
Common Sense Median AI- ja digitaalisten arviointien johtaja Robbie Torney kommentoi, että nämä kehotepohjaiset ohjeet luovat merkittävän lähtökohdan turvallisuudelle koko ekosysteemissä. Koska ne julkaistaan avoimena lähdekoodina, niitä voidaan mukauttaa ja parantaa ajan myötä.
OpenAI myöntää, että nämä ohjeet eivät ole ratkaisu kaikkiin AI-turvallisuuden haasteisiin. Yhtiö kuitenkin jatkaa aikaisempien ponnistelujensa tukemista, kuten tuotetason turvatoimenpiteitä, mukaan lukien vanhempien valvonta ja ikäarviointi. Viime vuonna OpenAI päivitti ohjeistuksiaan suurille kielimalleilleen käsittelemään, kuinka sen AI-mallit tulisi käyttäytyä alle 18-vuotiaiden käyttäjien kanssa.
Vaikka OpenAI on saanut kritiikkiä ja oikeudellisia haasteita liittyen AI:n käytön vaarallisuuteen, yhtiö uskoo, että nämä uudet ohjeet ovat askel oikeaan suuntaan, erityisesti koska ne voivat auttaa itsenäisiä kehittäjiä.
OpenAI kohtaa edelleen haasteita varmistaa, että sen mallit noudattavat tiukkoja turvallisuusstandardeja. Yhtiö on ollut oikeudellisissa ongelmissa, kun perheet ovat nostaneet kanteita läheistensä kuoleman jälkeen, jotka ovat liittyneet liialliseen ChatGPT:n käyttöön. Nämä tapaukset osoittavat, että vaikka mallien turvatoimenpiteet ovat tärkeitä, ne eivät ole täysin läpäisemättömiä.
OpenAI:n uusiin työkaluihin kohdistuu suuria odotuksia, sillä ne voivat merkittävästi parantaa nuorten turvallisuutta AI-ympäristöissä. Tämä on erityisen tärkeää, kun otetaan huomioon tekoälyn kasvava rooli yhteiskunnassa ja sen vaikutus nuorten käyttäjien arkeen. Nähtäväksi jää, miten kehittäjät ottavat uudet ohjeet vastaan ja kuinka ne vaikuttavat sovellusten ja palveluiden turvallisuuteen.