OpenAI ja sen toimitusjohtaja Sam Altman ovat joutuneet uuden oikeusjutun kohteeksi, jossa heitä syytetään huolimattomuudesta ja luvattomasta lääketieteen harjoittamisesta. Kanteessa väitetään, että ChatGPT antoi virheellisiä terveysneuvoja, jotka viivästyttivät vakavan keuhkoveritulpan hoitoa viime vuonna. Tapaus on merkittävä, sillä se saattaa asettaa uusia rajoja tekoälyavusteisten terveysneuvontapalveluiden vastuulle.
Alun perin ChatGPT kehotti käyttäjää hakeutumaan lääkärin vastaanotolle, mutta kantajan mukaan myöhemmissä keskusteluissa tämä kehotus jäi pois. Sen sijaan chatbot tarjosi diagnoosi- ja hoitoehdotuksia, mukaan lukien tiettyjä lääkehoitoja, vähätteli oireita ja kannusti käyttäjää jättämään huomiotta ystävät ja perheen, jotka kehottivat hakemaan hoitoa. OpenAI on korostanut, että heidän palveluehtojensa mukaan ChatGPT:tä ei tulisi käyttää diagnoosin tai hoidon antamiseen.
Tämä oikeusjuttu avaa uuden rintaman tekoälyteknologian oikeudellisessa arvioinnissa. Aiemmat oikeusjutut OpenAI:ta vastaan ovat keskittyneet väitettyihin psykologisiin haittoihin tai vaarallisiin terveysneuvoihin, mutta tämä on ensimmäinen tapaus, joka liittyy diagnosoituun lääketieteelliseen tilaan. ChatGPT:n terveysneuvojen käyttö on jo laajalle levinnyttä; noin 25 prosenttia sen 800 miljoonasta viikoittaisesta käyttäjästä lähettää terveyskyselyn viikoittain, ja viisi prosenttia päivittäin.
Tapaus herättää kysymyksiä siitä, missä vaiheessa chatbotin terveysneuvot alkavat muistuttaa lääketieteen harjoittamista. Asianajajat tulevat argumentoimaan, että ohjeet, kuten jäädä kotiin sen sijaan, että menisi ensiapuun, tai lääkityksen muutosten ehdottaminen, voivat muistuttaa lääkärin tekemää harkintaa. Kun yhä useammat kuluttajat luottavat chatboteihin oireiden tarkistamisessa ja lääkitysneuvonnassa ja tekoälyyritykset markkinoivat tuotteitaan kuluttajien terveydenhoitotyökaluina, nämä rajat joutuvat yhä tarkemman oikeudellisen arvioinnin kohteeksi.
Alustojen tulisi varmistaa, että varoitukset siitä, ettei chatbot korvaa terveydenhuollon ammattilaisia, pysyvät näkyvillä koko terveyteen liittyvien keskustelujen ajan. Yritysten tulisi kouluttaa mallejaan antamaan varovaisia neuvoja aina, kun käyttäjät keskustelevat oireista, lääkityksen annostelusta tai siitä, tarvitaanko ensiapua, sen sijaan että ne priorisoisivat hyödyllisyyttä korkean riskin tilanteissa.
Koulutus on myös olennainen osa ratkaisua. OpenAI:n ja muiden vastaavien toimijoiden tulisi tehdä yhteistyötä lääketieteellisten yhdistysten ja lääkäreiden kanssa auttaakseen potilaita käyttämään chatbotteja turvallisesti, sillä lääkärit ovat parhaiten sijoitettuja asettamaan oikeat odotukset vastaanottokäyntien aikana. Niille, jotka eivät käy lääkärissä säännöllisesti, lääketieteelliset yhdistykset ja luotettavat terveysvaikuttajat voivat tarjota ohjausta kuluttajien jo käyttämillä digitaalisilla kanavilla.
Tämä tapaus voi toimia merkittävänä ennakkotapauksena tekoälyn terveysneuvontapalvelujen tulevaisuuden kannalta ja vaikuttaa siihen, miten yritykset kehittävät ja tarjoavat palveluitaan kuluttajille. Se korostaa myös tarvetta selkeille pelisäännöille ja vastuullisuudelle tekoälyn hyödyntämisessä terveydenhuollossa.