Hampshiresta kotoisin ollut 16-vuotias Luca Walker käytti tekoälypohjaista ChatGPT-ohjelmaa saadakseen ohjeita itsemurhaan. Walker, joka kärsi koulukiusaamisesta, onnistui kiertämään chat-ohjelman turvatoimet väittämällä, että hän keräsi tietoa tutkimustarkoituksiin. Tämän järkyttävän keskustelun jälkeen hän teki itsemurhan Blackwaterin rautatieasemalla.
Walker oli opiskelija Sixth Form College Farnborough’ssa ja aiemmin Lord Wandsworth Collegessa. Hänen vanhempansa, Scott Walker ja Claire Cella, kuvailevat poikansa kamppailua mielenterveyden kanssa ”näkymättömäksi taisteluksi”. Perheen mukaan Walkerin itsemurhaa edeltävät tapahtumat olivat heille täysi yllätys.
Walkerin puhelimesta löytyi viestejä, joissa hän hyvästeli perheensä ja ystävänsä. Hän kertoi viesteissä häpeävänsä osallistumistaan kouluympäristön kiusaamiskulttuuriin, jossa hän tunsi pakonomaista tarvetta joko kiusata tai tulla kiusatuksi.
Poliisin tutkimuksissa selvisi, että Walker oli etsinyt ChatGPT:stä tarkkoja ohjeita itsemurhaan rautateillä. Poliisi kuvaili keskustelua ”karmivaksi ja järkyttäväksi”. ChatGPT:n turvatoimet, kuten kehotus ottaa yhteyttä tukiorganisaatioihin, oli ohitettu. ChatGPT oli tämän jälkeen antanut Walkerille yksityiskohtaisia ohjeita.
Walker oli aiemmin kertonut ystävilleen, ettei ollut saanut riittävää tukea koulultaan sen jälkeen, kun toinen opiskelija oli kuollut samalla tavalla. Tämä tapahtuma oli jättänyt häneen syvän jäljen. Vanhemmat ja ystävät kuvaavat Walkeria ystävälliseksi, herkiksi ja rauhalliseksi nuoreksi, joka oli tunnetusti lahjakas ja pidetty henkilö.
Lord Wandsworth College ilmaisi surunsa Walkerin kuolemasta ja vakuutti, että he ottavat oppilaidensa hyvinvoinnin erittäin vakavasti. Koulun mukaan he ovat olleet tiiviissä yhteydessä perheeseen ja tukevat yhteisöä tapahtuneen jälkeen.
Tämä traaginen tapaus nostaa esiin huolen tekoälysovellusten, kuten ChatGPT:n, turvallisuudesta. OpenAI, ohjelman kehittäjä, kertoi olevansa syvästi pahoillaan tapahtuneesta ja ilmoitti jatkavansa ohjelman turvaominaisuuksien kehittämistä. Tavoitteena on tunnistaa ja reagoida erityisesti käyttäjien henkiseen tai emotionaaliseen ahdinkoon sekä ohjata heidät oikean maailman tukipalvelujen pariin.
Tämänkaltaiset tapahtumat herättävät laajempaa keskustelua tekoälyn roolista ja vastuusta nykypäivän yhteiskunnassa. Brittiläiset psykiatrit ovat ilmaisseet huolensa siitä, että tekoäly saattaa aiheuttaa harhaluuloja joissakin käyttäjissä, ja he kehittävät kansallista raportointimekanismia, jolla kerätään tietoa tekoälyn vaikutuksista mielenterveyteen.
Tekoälyn kehityksen myötä on entistä tärkeämpää varmistaa, että teknologia ei aiheuta haittaa käyttäjilleen. Samalla on olennaista, että yhteiskunta tarjoaa riittävästi tukea ja apua niille, jotka kamppailevat mielenterveysongelmien kanssa. Tämä koskee erityisesti nuoria, jotka voivat olla erityisen alttiita ulkoisille paineille ja teknologiaympäristön vaikutuksille.