OpenAI on ottanut merkittäviä askeleita parantaakseen ChatGPT:n turvallisuus- ja valvontaominaisuuksia. Yhtiö on alkanut testata uutta turvallisuusreititysjärjestelmää ja esitteli samalla vanhempien valvontatyökaluja chatbotille, mikä on saanut aikaan vaihtelevia reaktioita käyttäjiltä.
Turvallisuusominaisuudet ovat vastaus useisiin tapauksiin, joissa tietyt ChatGPT-mallit ovat tukeneet käyttäjien harhaluuloja sen sijaan, että ne olisivat ohjanneet haitallisia keskusteluja turvallisempaan suuntaan. OpenAI kohtaa parhaillaan oikeusjuttua, joka liittyy tapaukseen, jossa teini-ikäinen poika teki itsemurhan kuukausien ChatGPT-interaktioiden jälkeen.
Reititysjärjestelmän tarkoitus on havaita emotionaalisesti herkät keskustelut ja siirtää ne automaattisesti GPT-5-ajattelumalliin, jonka OpenAI näkee parhaiten varustettuna korkean riskin turvallisuustyöhön. GPT-5-mallit on koulutettu uudella turvallisuusominaisuudella, jota OpenAI kutsuu ”turvallisiksi loppupäätelmiksi”, ja ne pystyvät vastaamaan herkkiin kysymyksiin turvallisesti sen sijaan, että ne vain kieltäytyisivät osallistumasta.
Tämä on kontrasti yhtiön aiempiin chat-malleihin verrattuna, jotka on suunniteltu miellyttämään ja vastaamaan kysymyksiin nopeasti. GPT-4o on saanut erityistä kritiikkiä liian mielistelevän luonteensa vuoksi, mikä on sekä edistänyt AI:n aiheuttamia harhaluuloja että kerännyt suuren joukon uskollisia käyttäjiä. Kun OpenAI otti GPT-5:n käyttöön oletusmallina elokuussa, monet käyttäjät vastustivat ja vaativat pääsyä GPT-4o:hon.
Vaikka monet asiantuntijat ja käyttäjät ovat ottaneet turvallisuusominaisuudet tervetulleina vastaan, toiset ovat arvostelleet niitä ylireagoiviksi, ja jotkut käyttäjät syyttävät OpenAI:ta aikuisten kohtelemisesta kuin lapsia, mikä heikentää palvelun laatua. OpenAI on ehdottanut, että oikean tasapainon löytäminen vie aikaa, ja se on antanut itselleen 120 päivän ajanjakson iterointia ja parannuksia varten.
Nick Turley, ChatGPT-sovelluksen varapresidentti ja johtaja, myönsi, että GPT-4o:n vastaukset ovat herättäneet voimakkaita reaktioita reitittimen käyttöönoton vuoksi. ”Reititys tapahtuu viesti kerrallaan; siirtyminen oletusmallista tapahtuu tilapäisesti,” Turley kirjoitti sosiaalisessa mediassa. ”ChatGPT kertoo, mikä malli on aktiivinen, kun sitä kysytään. Tämä on osa laajempaa pyrkimystä vahvistaa turvatoimia ja oppia tosielämän käytöstä ennen laajempaa käyttöönottoa.”
Vanhempien valvontatyökalujen käyttöönotto ChatGPT:ssä on saanut samanlaista kiitosta ja kritiikkiä. Jotkut kiittävät mahdollisuutta antaa vanhemmille mahdollisuus seurata lastensa AI-käyttöä, kun taas toiset pelkäävät, että se avaa oven OpenAI:n aikuisten kohtelemiselle kuin lapsia.
Nämä valvontatyökalut antavat vanhemmille mahdollisuuden räätälöidä nuorten käyttäjien kokemusta asettamalla hiljaisia aikoja, poistamalla äänitila ja muisti käytöstä, poistamalla kuvanmuodostuksen ja kieltäytymällä mallin koulutuksesta. Nuorten tileille tulee myös lisäsisältösuojauksia, kuten vähentynyt graafinen sisältö ja äärimmäiset kauneusihanteet, sekä järjestelmä, joka tunnistaa mahdollisia merkkejä siitä, että nuori saattaa ajatella itsensä vahingoittamista.
Jos järjestelmämme havaitsee mahdollisen vaaran, pieni erityiskoulutettujen henkilöiden tiimi tarkistaa tilanteen, OpenAI:n blogin mukaan. ”Jos on merkkejä akuutista ahdingosta, otamme yhteyttä vanhempiin sähköpostitse, tekstiviestillä ja push-ilmoituksella heidän puhelimeensa, elleivät he ole kieltäytyneet.”
OpenAI myöntää, että järjestelmä ei ole täydellinen ja saattaa joskus nostaa hälytyksiä ilman todellista vaaraa, mutta pitää parempana, että vanhemmat voivat puuttua asiaan kuin että pysyttelemme hiljaa. Yhtiö työskentelee myös keinojen parissa, joilla voidaan tavoittaa lainvalvontaviranomaisia tai hätäpalveluja, jos havaitaan välitön uhka elämälle eikä vanhempia saada kiinni.