Chat GPT -tekoälyn taustalla halpa­työvoimaa: Työntekijät lukivat järkyttävää materiaalia alle kahden euron tunti­palkalla

Open AI käytti halpatyövoimaa, kun Chat GPT -tekoäly piti saada tuottamaan vähemmän myrkyllistä materiaalia. Kenialaistyöntekijät joutuivat lukemaan työssään tekstejä, jotka sisälsivät väkivaltaa, vihapuhetta ja seksuaalista hyväksikäyttöä.

Microsoftin on kerrottu suunnittelevan kymmenen miljardin sijoitusta tekoäly-yhtiö Open AI:hin.

21.1. 14:52

Ilmiöksi nousseen Chat GPT -tekoälyn taustalta on paljastunut halpatyövoiman käyttöä. Yhdysvaltalaislehti Time kertoo, että tekoälyä kehittävän Open AI:n alihankkijan kenialaiset työntekijät ovat seuloneet valtavia massoja tekstiä alle kahden dollarin tuntipalkalla (dollari on tällä hetkellä noin 92 eurosenttiä).

Samalla työntekijät ovat altistuneet traumatisoivalle materiaalille, kuten kuvauksille väkivallasta ja seksuaalisesta hyväksikäytöstä.

Joulukuussa julkaistu Chat GPT -tekoäly on herättänyt valtavasti hämmästystä ja kiinnostusta. Se kykenee tuottamaan pyydetyistä aiheista tekstiä, joka vaikuttaa hämmentävän uskottavasti ihmisen kirjoittamalta.

Vastikään uutisoitiin, että Microsoft harkitsee kymmenen miljardin dollarin sijoittamista tekoälyä kehittävään Open AI -yhtiöön.

Chat GPT perustuu yhtiön aiempaan tekoälyversioon, GPT-3:een.

Jo GPT-3:lla oli vaikuttava kyky tuottaa tekstiä, mutta siinä oli yksi harmillinen ongelma: se saattoi yllättäen suoltaa esimerkiksi väkivaltaista, seksististä tai rasistista puhetta.

Tekoälymallit koulutetaan valtavilla määrillä internetistä poimittua tekstiä. Ongelmana on, että mukaan päätyvät myös internetin pimeät puolet, kuten vihapuhe ja muu myrkyllinen materiaali.

Datasetit, joilla tekoäly koulutetaan, ovat niin suuria, että niiden läpikäyminen käsin ja sopimattoman materiaalin poistaminen vaatisi sadoiltakin työntekijöiltä vuosikymmeniä, Time toteaa.

Niinpä ongelmaan kehitettiin uusi ratkaisu: tekoälypohjainen mekanismi, joka tunnistaa tällaisen materiaalin ja torjuu sen.

Tämän järjestelmän kouluttamiseksi tekoälylle piti syöttää esimerkkejä vihapuheesta, väkivallasta, seksuaalisesta hyväksikäytöstä ja muusta epäasiallisesta. Niiden avulla se oppisi tunnistamaan ei-toivotun materiaalin myös Chat GPT:n teksteissä ja siivoamaan sen pois ennen kuin käyttäjä ehtii edes nähdä sitä.

Tällaisten esimerkkien merkitseminen annettiin tehtäväksi Open AI:n kenialaiselle alihankkijalle Samalle.

Alihankkijalle lähetettiin kymmeniä tuhansia tekstinpätkiä, joista monet vaikuttivat Timen mukaan olleen peräisin internetin pimeimmistä syövereistä: mukana oli kuvailuja esimerkiksi lapsen seksuaalisesta hyväksikäytöstä, eläimiin sekaantumisesta, murhista, itsemurhista ja kidutuksesta.

Sama-yhtiön työntekijät lukivat tekstejä ja merkitsivät niitä sisällön perusteella. Tavoitteena oli työntekijöiden mukaan käydä läpi 150–250 tekstiä päivässä. Tekstien pituudet vaihtelivat sadasta sanasta reilusti yli tuhatsanaisiin.

Yhtiö kiisti Timelle näin korkeat tavoitteet, ja sanoi, että tavoite oli 70 tekstiä päivässä.

Työntekijöille maksettiin palkkaa, josta jäi käteen 1,3–2 dollaria tunnissa, mikä vastaa noin 1,2–1,9 euroa tunnissa.

Timen haastattelemat työntekijät kertoivat työn jättäneen henkisiä arpia. Yksi kuvailee häiritsevien tekstien lukemisen päivästä toiseen olleen ”kidutusta”.

Työntekijöille oli luvattu tapaamisia ”hyvinvointiohjaajan” kanssa, mutta haastatellut sanovat, että ne olivat hyödyttömiä ja niitä ehdittiin pitää harvoin, koska tuotantotavoitteet olivat työssä niin kovat.

Työn traumaattinen luonne johti kuitenkin lopulta siihen, että Sama lopetti yhteistyön Open AI:n kanssa etuajassa.

Tätä ennen Sama oli lyhyen aikaa tarjonnut Open AI:lle vastaavaa palvelua myös sopimattomien kuvien seulomiseksi.

Tuolloin työntekijät joutuivat kohtaamaan seksuaalista materiaalia ja väkivaltaa sisältäviä kuvia. Mukana oli myös laitonta materiaalia, kuten lapsiin kohdistuvaa seksuaalista hyväksikäyttöä.

Huoli laittomasta kuvamateriaalista sai ilmeisesti Saman keskeyttämään projektin, ja katkaisemaan kaiken yhteistyön Open AI:n kanssa.

Sen jälkeen työntekijät eivät joutuneet käsittelemään häiritseviä tekstejä ja kuvia.

Tämä ei toisaalta tarkoittanut pelkästään hyviä uutisia työntekijöiden kannalta. Suurin osa Open AI:n tilaamissa projekteissa työskennelleistä siirtyi Samalla toisiin, matalammin palkattuihin tehtäviin. Joiltakin työt taas loppuivat kokonaan, Time kertoo.

Open AI ei ole ainoa ainoa teknologiayritys, joka on teettänyt Afrikassa työtä pienellä palkalla.

Esimerkiksi Facebookin on aiemmin kerrottu teettäneen sisällön moderointia Sama-yhtiöllä, joka on ollut myös Open AI:n alihankkija.

Time-lehden mukaan moderoinnin työntekijät ovat katsoneet kuvia ja videoita, joissa on näkynyt esimerkiksi teloituksia ja raiskauksia, ja saaneet palkkaa jopa vain 1,5 dollaria (1,4 euroa) tunnissa.

Seuraa ja lue artikkeliin liittyviä aiheita