Yhdysvaltain liittovaltion tuomari on tehnyt merkittävän päätöksen, joka kumoaa hallituksen aiemman päätöksen peruuttaa yli 100 miljoonan dollarin avustukset. Nämä avustukset oli alun perin lakkautettu, koska niiden katsottiin rikkovan monimuotoisuuden, tasa-arvon ja osallisuuden (DEI) periaatteita. Tuomari Colleen McMahonin päätös korostaa hallituksen viraston, Government Efficiency Departmentin (DOGE), käyttämää prosessia, jossa tekoälyä eli ChatGPT:tä hyödynnettiin avustusten arvioimisessa.
Päätös liittyy oikeusjuttuun, jonka ovat nostaneet humanistiset ryhmät DOGE:a vastaan. Oikeusjutussa väitettiin, että DOGE oli käyttänyt ChatGPT:tä avustusten arvioimiseen pelkästään niiden sisältämien tiettyjen, suojattujen ominaisuuksien perusteella. McMahonin mukaan tämä menettelytapa oli ilmiselvästi perustuslain vastainen, sillä se perustui avustusten hylkäämiseen niiden sisältämien ominaisuuksien, kuten rodun, kansallisen alkuperän, uskonnon ja seksuaalisen suuntautumisen perusteella.
Oikeusasiakirjoissa esitettyjen todistusten mukaan DOGE:n työntekijä Justin Fox käytti ChatGPT:tä analysoidakseen avustusten kuvauksia ja tunnistaakseen, liittyvätkö ne DEI:n periaatteisiin. Fox käytti vakioitua kysymystä, jossa hän pyysi ChatGPT:tä vastaamaan lyhyesti ja faktapohjaisesti, liittyykö avustus DEI:hin. On paljastunut, ettei Fox määritellyt ChatGPT:lle, mitä DEI tarkoittaa, eikä hänellä ollut selkeää käsitystä siitä, miten tekoäly ymmärsi termin.
Lisäksi Fox käytti niin sanottuja ”Tunnistuskoodit”-hakusanoja analysoidessaan avustuksia. Näihin kuului esimerkiksi termejä kuten ”BIPOC”, ”vähemmistöt”, ”alkuperäiskansat” ja ”LGBTQ”. Näiden hakusanojen avulla Fox pyrki tunnistamaan avustuksia, jotka hänen mielestään olivat ”hulluimpia” tai ”muut huonot avustukset”. Tällä tavoin DOGE rakensi ja sovelsi suoria luokituksia suojattujen ominaisuuksien perusteella, ja käytti niitä perusteina liittovaltion avustusten perumiselle.
Tuomari McMahon huomautti, että DOGE oli merkinnyt satoja avustuksia ”tuhlaileviksi”, koska ne liittyivät esimerkiksi afroamerikkalaisiin, naisiin, juutalaisiin, aasialaisamerikkalaisiin ja alkuperäiskansoihin. Näitä aiheita hallitusvirasto piti merkityksettöminä tai ideologisesti saastuneina, vaikka ne olivat NEH:n (National Endowment for the Humanities) tehtävän kannalta olennaisia.
McMahonin päätös kritisoi myös hallituksen väitettä, ettei perustuslaillista ongelmaa ollut, koska tekoäly teki päätökset eikä hallitus itse. Hänen mukaansa tekoäly oli hallituksen valitsema työkalu, eikä sen käyttö vapauta hallitusta vastuusta. DOGE:n tapa käyttää tekoälyä DEI-materiaalin tunnistamiseen ei oikeuta perustuslain vastaista toimintaa.
Päätöksessään McMahon totesi, että DOGE:n yli 1400 avustuksen peruuttaminen oli lainvastaista ja perustuslain vastaista. Hän mainitsi ensimmäisen lisäyksen, viidennen lisäyksen tasa-arvolain sekä DOGE:n toimivallan puutteen rikkomukset. Tuomari määräsi, että avustusten peruutukset on kumottava ja avustukset palautettava.
Tämä tapaus korostaa tekoälyn käytön juridisia ja eettisiä kysymyksiä hallituksen päätöksenteossa. Se myös nostaa esiin kysymyksiä siitä, miten tekoälyä tulisi käyttää herkissä ja monimutkaisissa poliittisissa prosesseissa. Päätöksellä on merkittäviä seurauksia hallituksen virastojen toiminnalle ja niiden vastuiden määrittelylle tekoälyn käytössä.