OpenAI on ilmoittanut onnistuneensa häiritsemään laajamittaista huijausoperaatiota Kambodžassa, jossa hyödynnettiin tekoälyä laittomien toimien toteuttamiseen. Poipetista käsin operoinut verkosto käytti OpenAI:n ChatGPT-chatbottia luodakseen ja ylläpitääkseen tekaistuja henkilöprofiileja sekä viestintää, jotka tukivat erilaisia huijausmenetelmiä, kuten sijoitus-, romanssi-, uhkapeli- ja viranomaisvalepukuja.
OpenAI:n mukaan se on estänyt useita ChatGPT-tilejä, jotka todennäköisesti ovat peräisin Kaakkois-Aasiasta. Poipet tunnetaan alueena, jolla on aiemmin ollut vahvoja kytköksiä huijausoperaatioihin ja ihmiskauppaan, mikä tekee alueesta erityisen alttiin tällaisille rikollisille toiminnoille.
Tekoälymalleja käytettiin laajalti luomaan väärennettyjä online-persoonallisuuksia, kääntämään viestejä huijausten kohteille, tuottamaan mainossisältöä petollisia tarkoituksia varten sekä avustamaan päivittäisissä hallinnollisissa tehtävissä. Esimerkiksi sosiaalisen median mainoksia luotiin houkuttelemaan ihmisiä töihin Poipetiin, erityisesti Bangladeshista ja Intiasta, lupaamalla heille houkuttelevia palkkioita ja etuja.
OpenAI tutki operaatiota yhteistyössä Meta-yhtiön omistaman WhatsAppin kanssa. Tutkinta paljasti, että rikollisryhmät harvoin rajoittuvat vain yhteen huijaustyyppiin, vaan hyödyntävät monenlaisia tarinoita ja taktiikoita petostensa tehostamiseksi. Huijarit sekoittivat eri huijausmenetelmiä lisätäkseen onnistumismahdollisuuksiaan, kuten luomalla romanttisia siteitä uhreihin ennen kuin houkuttelivat heidät tekaistuihin kryptovaluuttasijoituksiin tai kultakauppaan.
Lisäksi joukko käyttäjiä teeskenteli olevansa lainvalvontaviranomaisia, luoden kiireellisyyden tunnetta ja vaatimalla uhreilta sakkoja tekaistuista rikoksista. Tämä taktiikka sisälsi myös väärennettyjen asiakirjojen, kuten passien ja oikeudellisten ilmoitusten, luomista.
OpenAI:n mukaan huijausoperaation toimintamalli seurasi kolmiportaista lähestymistapaa: ensin otettiin yhteys uhriin viestintäsovellusten, kuten WhatsAppin ja Telegramin, kautta; seuraavaksi luotiin luottamuksellinen suhde; ja lopuksi uhrilta pyydettiin talletuksia tai muita maksuja. Uhrille esitettiin väärennettyjä todisteita, kuten kuvakaappauksia siirroista, vakuuttamaan heidät maksujen aitoudesta.
Erityisesti on huomattu, että osa tileistä on luonut sisältöä, joka viittaa ihmiskauppaan ja pakkotyöhön, mikä on yleistä järjestäytyneiden rikollisryhmien keskuudessa Itä-Aasiassa. Näissä tilanteissa ihmisille luvataan houkuttelevia töitä, mutta todellisuudessa heidän passinsa takavarikoidaan ja heidät pakotetaan työskentelemään orjamaisissa olosuhteissa.
OpenAI ei ole pystynyt tarkasti määrittämään taloudellisten tappioiden laajuutta, mutta huijareiden viestinnän perusteella operaatio on saattanut koskea satoja uhreja eri huijaustyypeissä. Uhrit ovat menettäneet tuhansia dollareita, vaikkakaan näitä väitteitä ei ole voitu itsenäisesti vahvistaa.
Tämä kehitys osoittaa, kuinka uhkatoimijat kehittävät tekoälyyn perustuvia hyökkäysvalmiuksia, jotka mahdollistavat kampanjoiden nopeuden ja laajuuden kasvattamisen merkittävästi. Näiden kehitysten myötä on entistä tärkeämpää seurata ja rajoittaa tekoälyn käyttöä rikollisissa tarkoituksissa.