Kenialaiset työntekijät joutuivat seulomaan rankkaa materiaalia riistopalkalla, koska uutta Chat GPT -tekoälyä piti siistiä rajusta tekstistä
ChatGPT:n luonut yhtiö pisti alihankkijansa työntekijät lukemaan väkivaltaa, lasten seksuaalista hyväksikäyttöä ja eläimiin sekaantumista käsittelevää tekstiä alle kahden dollarin tuntipalkalla.
Marraskuussa julkaistu Chat GPT -tekoälybotti saatiin siistittyä rankasta materiaalista kyseenalaisin keinoin, kertoo Time-lehti (siirryt toiseen palveluun).
Koska tekoäly koulutetaan luomaan tekstiä verkosta löytyvän aineiston perusteella, sen tuotokset saattavat sisältää seksuaalista hyväksikäyttöä, vihapuhetta ja väkivaltaa.
Chat GPT:n edeltäjä tuottikin välillä rajua tekstiä, minkä vuoksi se ei ollut mikään myyntimenestys. Uutta versiota luodessaan Open AI -yhtiö halusi sellaisesta eroon.
Niinpä Open AI päätti kehittää toisen tekoälyn, joka varoittaisi Chat GPT:tä epäilyttävästä tekstistä. Tuolle uudelle tekoälylle piti hakea verkon raainta materiaalia, jotta se oppisi tunnistamaan ei-toivotun tekstin ja varoittamaan Chat GPT:tä siitä.
Open AI ulkoisti epäilyttävän tekstin tunnistamisen ja merkkaamisen Sama-yhtiölle. Sen kenialaiset työntekijät ryhtyivät käymään läpi tekstejä, joista osa vaikutti Time-lehden mukaan olevan kotoisin pimeän verkon puolelta.
Tekstejä läpi käyneiden kenialaisen nettopalkka oli 1,32–2 Yhdysvaltain dollaria tunnilta (1,2–1,9 euroa).
Työ oli niin traumatisoivaa, että alihankkija vetäytyi
Osa työntekijöiden läpi käymistä teksteistä kuvaili yksityiskohtaisesti esimerkiksi lasten seksuaalista hyväksikättöä, eläimiin sekaantumista, murhia, itsemurhia ja kidutusta.
Työ oli niin traumatisoivaa, että Sama lopetti yhteistyön Open AI:n kanssa kahdeksaa kuukautta sovittua aiemmin viime helmikuussa.
Time-lehti haastatteli neljää kenialaista, jotka kaikki kertoivat olevansa henkisesti haavoittuneita työstään. Yksi työntekijöistä kertoi, kuinka tolaltaan hän meni luettuaan kuvausta eläimeen sekaantumisesta tilassa, jossa oli pieni lapsikin paikalla.
– Lukeminen oli kidutusta. Kun tuollaista lukee koko viikon, perjantaihin mennessä on sekaisin, työntekijä kuvaili.
Sama-yhtiö puolustautuu toteamalla, että työntekijöille tarjottiin terapiaa. Työntekijät puolestaan pitivät terapian määrää riittämättömänä.
Time-lehti on tutkinut Open AI:n ja Saman välisiä sopimuksia. Niistä käy ilmi, että Open AI maksoi Samalle tunnista 12,50 dollaria, mikä on 6–9 kertaa enemmän kuin kenialaisten työntekijöiden nettopalkka tunnilta.
Asiasta kertoi Suomessa aiemmin Helsingin Sanomat (siirryt toiseen palveluun).