Keskustelu tekoälyn roolista yhteiskunnassa on saanut uuden käänteen Kanadassa tapahtuneen joukkosurmauksen myötä. Tumbler Ridgessa, Kanadassa, tapahtuneen ampumavälikohtauksen epäilty, 18-vuotias Jesse Van Rootselaar, käytti tiettävästi OpenAI:n ChatGPT:tä tavalla, joka herätti huolta yhtiön työntekijöissä. Van Rootselaarin keskustelut tekoälymallin kanssa sisälsivät väkivaltaisia kuvauksia, jotka yhtiön väärinkäytön tarkkailuun kehitetyt työkalut nostivat esiin. OpenAI esti hänen pääsynsä palveluun kesäkuussa 2025.
OpenAI:n henkilöstö keskusteli siitä, pitäisikö heillä olla velvollisuus ottaa yhteyttä Kanadan viranomaisiin Van Rootselaarin käytöksen vuoksi, mutta lopulta päätyi olemaan ottamatta yhteyttä. Wall Street Journalin mukaan OpenAI:n edustaja totesi, että Van Rootselaarin toiminta ei täyttänyt kriteerejä, jotka olisivat oikeuttaneet ilmoittamisen viranomaisille. Tapahtuman jälkeen yhtiö kuitenkin otti yhteyttä Kanadan viranomaisiin.
Van Rootselaarin internet-käyttäytyminen ei rajoittunut pelkästään ChatGPT:hen. Hän oli myös luonut Roblox-pelialustalle pelin, joka simuloi joukkosurmauksen ostoskeskuksessa. Lisäksi hän julkaisi aseisiin liittyvää sisältöä Redditissä. Paikallispoliisi oli tietoinen Van Rootselaarin epävakaasta käytöksestä, sillä he olivat käyneet hänen perheensä kotona sen jälkeen, kun hän oli sytyttänyt tulipalon ollessaan päihteiden vaikutuksen alaisena.
Tämä tapahtuma nostaa esiin vakavia kysymyksiä tekoälyyn perustuvien chatbottien vastuullisuudesta ja niiden mahdollisista vaikutuksista käyttäjiinsä. OpenAI ja muut tekoälyä kehittävät yritykset ovat saaneet osakseen kritiikkiä siitä, että niiden tuotteet voivat aiheuttaa käyttäjilleen psyykkisiä häiriöitä tai pahimmillaan johtaa väkivaltaiseen käyttäytymiseen. Useita oikeusjuttuja on nostettu, joissa chat-keskustelujen on väitetty kannustaneen käyttäjiä itsemurhaan tai avustaneen siinä.
Tekoälyn rooli yhteiskunnassa on herättänyt laajaa keskustelua, ja tämä tapaus korostaa tarvetta määritellä selkeät säännöt ja vastuut tekoälypalveluiden tarjoajille. On tärkeää, että tekoälyä kehittävät yritykset ovat tietoisia tuotteidensa mahdollisista haitallisista vaikutuksista ja ottavat käyttöön tehokkaita keinoja estääkseen väärinkäytökset.
OpenAI:n ja muiden tekoälyyritysten on pohdittava, kuinka ne voivat kehittää turvallisia ja vastuullisia tuotteita, jotka tukevat yhteiskunnan hyvinvointia. Tämä vaatii tiivistä yhteistyötä viranomaisten, tutkijoiden ja yhteisöjen kanssa, jotta voidaan ennaltaehkäistä vastaavanlaisia tragedioita tulevaisuudessa.
Vaikka tekoäly tarjoaa valtavia mahdollisuuksia edistää teknologista kehitystä ja parantaa elämänlaatua, on ratkaisevan tärkeää, että sen kehittäjät kantavat vastuun luomistaan teknologioista. Tekoälyn eettisten ja turvallisuuskysymysten käsittely on välttämätöntä, jotta sen käyttö voi olla yhteiskunnallisesti hyödyllistä ja eettisesti hyväksyttävää.