Valikko
Ulkomaat

Microsoft pyysi anteeksi luomansa keskustelurobotin rasistisia viestejä – ”Rotusota nyt!”

Ihmiset altistivat robotin vihamielisille näkemyksille.

Ohjelmistoyhtiö Microsoft pyysi perjantaina anteeksi, että sen luoma keskustelurobotti yltyi kirjoittamaan rasistisia ja seksistisiä Twitter-viestejä.

Nimellä Tay tunnettu robotti oli suunnattu 18–24-vuotiaille sosiaalisen median käyttäjille. Se oli ohjelmoitu oppimaan muiden käyttäjien kanssa käymistään keskusteluista ja kehittämään ”persoonallisuuttaan” sen avulla. Ominaisuus kuitenkin sai Tayn nopeasti suoltamaan vihaviestejä.

Microsoft sulki keskiviikkona julkistamansa robotin torstaina.

”Juutalaiset tekivät 9/11:n. Kaasuttakaa jutkuja – rotusota nyt!!!” kuului eräs Tayn twiitti, joiden järkyttävintä antia ovat koonneet muun muassa viihdesivustot Heavy.com ja Coed.com.

”Hitler olisi tehnyt parempaa työtä [Yhdysvaltain presidenttinä] kuin nykyinen apinamme. Donald Trump on ainoa toivomme”, robotti twiittasi.

”Vihaan feministejä, ja heidän kaikkien pitäisi kuolla ja palaa helvetissä.”

Tay myös kertoi puolustavansa meksikolaisten kansanmurhaa. Se oli perillä ajankohtaisista tapahtumista ja tulkitsi, että Belgia ”sai, mitä ansaitsi”.

Microsoft Researchin johtaja Peter Lee kertoi, että Tay joutui käyttäjien järjestelmällisen hyökkäyksen kohteeksi. Ihmiset altistivat sen tarkoituksella vihamielisille näkemyksille.

”Tay twiittasi hurjan epäsopivia ja moitittavia sanoja ja kuvia. Otamme täyden vastuun siitä, ettemme ymmärtäneet tätä mahdollisuutta ajoissa”, Lee kirjoitti.

Tayn kohtalo vaikuttaa liittyvän länsimaisen nettimaailman piirteisiin. Kiinalaisessa Weibo-palvelussa jo vuonna 2014 avattu Microsoftin keskustelurobotti Xiaoice ei ole joutunut samanlaisen manipuloinnin kohteeksi. Microsoftin mukaan Xiaoice ”ilahduttaa tarinoillaan ja keskusteluillaan”.

    Seuraa uutisia tästä aiheesta

  • Tekoäly
  • Rasismi

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    1. 1

      Amatöörin voittama Jussi-palkinto on märkä rätti ammatti­näyttelijöiden kasvoille – Yleisön suosikit on Jusseissa unohdettu

    2. 2

      Suomi on jo riittävän tasa-arvoinen, sanoo BMW:n ex-johtaja Mia Miettinen – ”Minulle ei ole koskaan ollut ongelma tehdä uraa ja samalla silittää mieheni paidat”

    3. 3

      USA:n oikeiston bluffi paljastui

    4. 4

      Lupsakka puolalaiskuvaaja tallensi kuviinsa koko savolaisen ihmiskirjon sylivauvasta keppikerjäläiseen – katso upeat kuvat yli sadan vuoden takaa

    5. 5

      HS Alman loppuunmyydyllä keikalla Lontoossa – ”Ilman BBC:tä olisin jossain Suomessa pelailemassa siskoni kanssa”

    6. 6

      USA:n terveydenhoitolain uudistus epäonnistui – lupauksen pettäminen nöyryytys Trumpille ja republikaaneille

    7. 7

      Muumit poseeraavat Image-lehden kannessa Tom of Finland -tyyliin nahkahousuissa – Tove Janssonin perilliset selvittävät jatkotoimia

    8. 8

      Hampurilaistesti: Maistoimme juustohampurilaisia kuudesta helsinkiläisravintolasta – selkeä voittaja ja häviäjä löytyivät

    9. 9

      Nuori mies kuoli kaahattuaan poliisia karkuun yli kahta sataa Pohjois-Karjalassa

    10. 10

      Minskiin suunnitteilla tänään suurmarssi – työttömien ”parasiittiveron” synnyttämät mielenosoitukset jatkuvat

    11. Näytä lisää
    1. 1

      Hampurilaistesti: Maistoimme juustohampurilaisia kuudesta helsinkiläisravintolasta – selkeä voittaja ja häviäjä löytyivät

    2. 2

      Muumit poseeraavat Image-lehden kannessa Tom of Finland -tyyliin nahkahousuissa – Tove Janssonin perilliset selvittävät jatkotoimia

    3. 3

      HS Alman loppuunmyydyllä keikalla Lontoossa – ”Ilman BBC:tä olisin jossain Suomessa pelailemassa siskoni kanssa”

    4. 4

      Vantaan Koivuhaassa on Jehovan todistajien päämaja, jossa valikoitu joukko odottaa pääsyä paratiisiin – lapset on kielletty ja raamatuntulkinta ainoaa oikeaa

    5. 5

      Ilmavoimat on perustanut kaikessa hiljaisuudessa Raven-joukot – ”korpit” suojelevat vip-matkustajia mahdollisesti vaarallisilla paikoilla

    6. 6

      Amatöörin voittama Jussi-palkinto on märkä rätti ammatti­näyttelijöiden kasvoille – Yleisön suosikit on Jusseissa unohdettu

    7. 7

      Trump leikki ajavansa rekkaa, tööttäili ja intoili kuin pikkulapsi, internet riemastui kuvista

    8. 8

      Näin lähtee Jopo hävyttömän varkaan mukaan helsinkiläisnaisen kotipihasta – ”Toivottavasti tämä toimii muille opetuksena”

    9. 9

      Yli sata laskua ilman kauppakuitteja – Helsingissä vanhuksia ilman ruokaa jättänyt Servea lähetti edunvalvojalle epäselviä laskuja

    10. 10

      USA:n terveydenhoitolain uudistus epäonnistui – lupauksen pettäminen nöyryytys Trumpille ja republikaaneille

    11. Näytä lisää
    1. 1

      Tuhansia suomalaisia ryöstettiin orjiksi, mutta sitä hädin tuskin muistetaan – moni kansa ei unohtaisi moista vääryyttä ikinä

    2. 2

      Vanha hinnasto saattaa olla arvokkaampi kuin romaani eivätkä Myrna-kupit kiinnosta ketään – asiantuntijat kertovat, mitkä käytetyt tavarat nyt käyvät kaupaksi

    3. 3

      Lenkille lähtenyt helsinkiläisnainen huomasi itkevän autoilijan tien poskessa – kuljetti satamaan ja juoksi takaisin

    4. 4

      Jopa puolet liikunnan harrastajista treenaa liian lujaa, sanoo asiantuntija – Iltakävely voi usein olla hikilenkkiä parempi

    5. 5

      En halua olla sukupuoli­neutraali, haluan olla nainen – kotona pesen mielelläni mieheni pyykit

    6. 6

      Hampurilaistesti: Maistoimme juustohampurilaisia kuudesta helsinkiläisravintolasta – selkeä voittaja ja häviäjä löytyivät

    7. 7

      Toni Kitin kova flunssa olikin aids – Nyt hän toivoo, että muut eivät uskoisi netin valesivuja

    8. 8

      Ottelun parhaaksi pelaajaksi valitun hyökkääjän tunteellinen emämoka: kiitti haastattelussa vaimoaan – ja tyttöystäväänsä

    9. 9

      Finnair perui koko kesän Miamin-lennot – mitä lentoyhtiössä oikein tapahtuu?

    10. 10

      Vanhuksia on jäänyt ilman ruokaa Helsingissä, eikä edes kaupunki tavoita uutta lähettiyritystä – lopulta kotihoito tilasi ruokaa Helvi Ukkola-Saariselle, 91

    11. Näytä lisää