Useiden kuukausien ajan erittäin henkilökohtaisia ja arkaluontoisia ChatGPT-keskusteluja on vuotanut odottamattomaan paikkaan: Google Search Consoleen (GSC), työkaluun, jota kehittäjät yleensä käyttävät hakuliikenteen seurantaan, ei yksityisten keskustelujen tarkkailuun. Tällaiset vuodot ovat herättäneet merkittävää huolta käyttäjien yksityisyydestä.
GSC:ssä normaalisti näkyvät hakukyselyt perustuvat avainsanoihin tai lyhyisiin lauseisiin, joita internetin käyttäjät kirjoittavat Googleen löytääkseen relevanttia sisältöä. Syyskuusta lähtien GSC:ssä on kuitenkin alkanut näkyä outoja, jopa yli 300 merkkiä pitkiä kyselyjä, jotka vaikuttavat tulevan henkilöiltä, jotka käyttävät chatbotia ratkaistakseen esimerkiksi suhde- tai liiketoimintaongelmia, odottaen näiden keskustelujen pysyvän yksityisinä.
Analytiikkakonsultointiyritys Quantablen omistaja Jason Packer oli yksi ensimmäisistä, joka kiinnitti huomiota tähän ongelmaan. Hän teki yhteistyötä verkkosivuston optimointikonsultti Slobodan Manićin kanssa selvittääkseen, mistä vuodot johtuvat. Heidän tutkimuksensa viittaa siihen, että OpenAI, ChatGPT:n kehittäjä, saattaa käyttää Google-hakuja suoraan, mikä paljastaa käyttäjien yksityisiä tietoja.
Vaikka OpenAI ei suostunut vahvistamaan Packerin ja Manićin teoriaa, yhtiö ilmoitti olevansa tietoinen ongelmasta ja kertoi korjanneensa häiriön, joka vaikutti vain pieneen määrään hakukyselyjä. Google puolestaan kieltäytyi kommentoimasta tilannetta.
Ensimmäinen outo ChatGPT-kysely, jonka Packer havaitsi GSC:ssä, oli ilmeisesti naiskäyttäjän kirjoittama, jossa hän pyysi ChatGPT:tä arvioimaan eräitä käyttäytymismalleja selvittääkseen, onko häntä kiusoitteleva poika ihastunut häneen. Toinen kysely vaikutti olevan toimistopäälliköltä, joka jakoi liiketoimintatietoja suunnitellessaan paluuta toimistolle.
Nämä olivat vain kaksi esimerkkiä yli 200 oudosta kyselystä, jotka Packer löysi yhdeltä verkkosivustolta. Hän totesi, että kyselyt ovat muistutus siitä, että ChatGPT:n käyttö ei ole niin yksityistä kuin jotkut käyttäjät saattavat kuvitella.
Packerin ja Manićin tutkimus näyttää tukevan aiempia raportteja, joiden mukaan OpenAI käyttää Google-hakutuloksia ChatGPT:n vastausten parantamiseksi. Vaikka OpenAI ei ole vahvistanut tätä tietoa, Packer uskoo, että heidän tutkimuksensa voi olla todiste siitä, että OpenAI ei ainoastaan käytä hakukoneiden tulossivuja tiedon hankintaan, vaan saattaa myös lähettää käyttäjän kyselyt Google-hakuun.
Tutkimuksessa havaittiin, että outoja kyselyitä ilmestyi yhden verkkosivuston GSC:ssä, koska se sijoittui korkealle Googlen hakutuloksissa avainsanoille ”openai + index + chatgpt”. Näiden avainsanojen korkea sijoitus johti mahdollisesti siihen, että ChatGPT-vuodot ilmestyivät kyseiselle sivustolle.
On epäselvää, mitä OpenAI on tarkalleen korjannut, mutta Packer ja Manić epäilevät, että vuotojen syynä oli buggy-kyselylaatikko, joka lisäsi URL-osoitteen kyselyyn. Tämä tarkoittaa, että OpenAI jakoi kaikki Google-haun vaatineet kyselyt sekä Googlelle että haun tuloksissa näkyville verkkosivustoille.
Packer totesi, että ”kaikki ChatGPT:n kyselyt”, jotka käyttivät Google-hakua, olivat vaarassa vuotaa viimeisten kahden kuukauden aikana. OpenAI väitti, että vain pieni määrä kyselyitä vuoti, mutta ei antanut tarkempaa arviota siitä, kuinka moni 700 miljoonasta viikoittaisesta ChatGPT-käyttäjästä oli vaikuttanut.
OpenAI:n vastaus on jättänyt käyttäjille monia avoimia kysymyksiä. Packer toivoo, että yhtiö selventäisi, mitä se on korjannut ja kuinka laajasti korjaus estää jatkossa vastaavia ongelmia. Tämä tapaus nostaa esille huolen siitä, kuinka huolellisesti OpenAI käsittelee käyttäjien yksityisyyttä koskevia asioita.