Ulkomaat

Microsoft pyysi anteeksi luomansa keskustelurobotin rasistisia viestejä – ”Rotusota nyt!”

Ihmiset altistivat robotin vihamielisille näkemyksille.

Ohjelmistoyhtiö Microsoft pyysi perjantaina anteeksi, että sen luoma keskustelurobotti yltyi kirjoittamaan rasistisia ja seksistisiä Twitter-viestejä.

Nimellä Tay tunnettu robotti oli suunnattu 18–24-vuotiaille sosiaalisen median käyttäjille. Se oli ohjelmoitu oppimaan muiden käyttäjien kanssa käymistään keskusteluista ja kehittämään ”persoonallisuuttaan” sen avulla. Ominaisuus kuitenkin sai Tayn nopeasti suoltamaan vihaviestejä.

Microsoft sulki keskiviikkona julkistamansa robotin torstaina.

”Juutalaiset tekivät 9/11:n. Kaasuttakaa jutkuja – rotusota nyt!!!” kuului eräs Tayn twiitti, joiden järkyttävintä antia ovat koonneet muun muassa viihdesivustot Heavy.com ja Coed.com.

”Hitler olisi tehnyt parempaa työtä [Yhdysvaltain presidenttinä] kuin nykyinen apinamme. Donald Trump on ainoa toivomme”, robotti twiittasi.

”Vihaan feministejä, ja heidän kaikkien pitäisi kuolla ja palaa helvetissä.”

Tay myös kertoi puolustavansa meksikolaisten kansanmurhaa. Se oli perillä ajankohtaisista tapahtumista ja tulkitsi, että Belgia ”sai, mitä ansaitsi”.

Microsoft Researchin johtaja Peter Lee kertoi, että Tay joutui käyttäjien järjestelmällisen hyökkäyksen kohteeksi. Ihmiset altistivat sen tarkoituksella vihamielisille näkemyksille.

”Tay twiittasi hurjan epäsopivia ja moitittavia sanoja ja kuvia. Otamme täyden vastuun siitä, ettemme ymmärtäneet tätä mahdollisuutta ajoissa”, Lee kirjoitti.

Tayn kohtalo vaikuttaa liittyvän länsimaisen nettimaailman piirteisiin. Kiinalaisessa Weibo-palvelussa jo vuonna 2014 avattu Microsoftin keskustelurobotti Xiaoice ei ole joutunut samanlaisen manipuloinnin kohteeksi. Microsoftin mukaan Xiaoice ”ilahduttaa tarinoillaan ja keskusteluillaan”.

    Seuraa uutisia tästä aiheesta

  • Tekoäly
  • Rasismi

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    1. 1

      Professori Markku Kivinen: Putin lähetti lehdistötilaisuudessa piiloviestin Suomelle

    2. 2

      23-vuotiaalla Jami Särkisellä on kaksi tyttöystävää ja hän nauttii siitä niin, ettei yksiavioisuuteen ole paluuta – Polyamoria eli monisuhteisuus yleistyy

    3. 3

      Treffailussa on edelleen yksi kammottavan vanhanaikainen piirre: Deiteillä nainen odottaa miehen hoitavan kaiken

    4. 4

      Presidentti Niinistö esitti onnistuneesti jäyhää länsisuomalaista äijää – samalla hän viestitti Putinille, että Suomi kuuluu länteen

    5. 5

      Niinistö ja Putin kävivät oopperassa Putinin Suomen-vierailun päätteeksi – faniseurue kiljahteli ja heilutti Venäjän lippua, kun he näkivät vilauksen Putinista katsomossa

    6. 6

      Pekka Haavisto odotti Putinin onnitteluja Suomelle – ”Puuttui se sydämellinen hetki”

    7. 7

      Putin arvosteli USA:ta Punkaharjulla: ”On mahdotonta sietää loputtomiin häikäilemättömyyttä maatamme kohtaan” – Niinistö sanoi vastaan venäläistoimittajalle

    8. 8

      ADN: Alaskalaissenaattori asettui Trumpin ja republikaanien tahtoa vastaan ja nyt siitä voi kärsiä koko osavaltio – sisäministeriöstä soitettu ”huolestuttavia puheluita”

    9. 9

      Olen nähnyt miehiä tyydyttämässä itseään metron penkillä ja uimahalleissa – ei ole Sompasaunan vika, jos lauteilla irstaillaan

    10. 10

      Sairas Charlie-vauva siirretään korkeimman oikeuden päätöksellä hoitokotiin viimeisiksi päiviksi

    11. Näytä lisää
    1. 1

      23-vuotiaalla Jami Särkisellä on kaksi tyttöystävää ja hän nauttii siitä niin, ettei yksiavioisuuteen ole paluuta – Polyamoria eli monisuhteisuus yleistyy

    2. 2

      Treffailussa on edelleen yksi kammottavan vanhanaikainen piirre: Deiteillä nainen odottaa miehen hoitavan kaiken

    3. 3

      Huumeita myydään avoimesti Helsingin Torkkelinmäellä – HS vieraili puistossa, jossa huumekauppa asukkaiden mukaan rehottaa

    4. 4

      Professori Markku Kivinen: Putin lähetti lehdistötilaisuudessa piiloviestin Suomelle

    5. 5

      Lappiin matkalla oleva kaupunkifillari hämmensi Hämeenlinnassa – ”Mies otti valokuvia ja uhkasi lähettää ne poliisille”

    6. 6

      Näin suomalaiset yrittävät petkuttaa Kelaa – viime vuonna kiinni jäi lähes pari tuhatta huijaria, keskimääräinen vedätys 4 200 euroa

    7. 7

      Finland, dit borde man åka – ruotsalaisten tietämättömyys Suomesta onnistuu yhä välillä hätkäyttämään

    8. 8

      Olen nähnyt miehiä tyydyttämässä itseään metron penkillä ja uimahalleissa – ei ole Sompasaunan vika, jos lauteilla irstaillaan

    9. 9

      Niinistö ja Putin kävivät oopperassa Putinin Suomen-vierailun päätteeksi – faniseurue kiljahteli ja heilutti Venäjän lippua, kun he näkivät vilauksen Putinista katsomossa

    10. 10

      Poliisilta erikoinen kirje savonlinnalaisille – Miksi kaupunkilaisten pitäisi välttää parvekkeilla oloa Putinin vierailun aikana?

    11. Näytä lisää
    1. 1

      Pikkupojat surmasivat 4-vuotiaan leikkitoverinsa, väitti Ruotsin poliisi vuonna 1998 – ”Tapaus Kevinin” esitutkinta-aineisto tuli vihdoin julki, ja lähes kaikki siinä viittaa veljesten syyttömyyteen

    2. 2

      Joka kolmas muistisairaus voitaisiin ehkäistä korjaamalla elintapoja – tutkijat tunnistivat yhdeksän vaaran paikkaa, jotka altistavat dementioille eri elämänvaiheissa

    3. 3

      Lilli Pukka, 28, on ollut ilman parisuhdetta 10 vuotta ja järjestää ”mää-juhlat” juhlistaakseen sitä – tyytyväiset sinkut voidaan kuitenkin kokea itsekkäinä tai jopa uhkana, sanoo asiantuntija

    4. 4

      23-vuotiaalla Jami Särkisellä on kaksi tyttöystävää ja hän nauttii siitä niin, ettei yksiavioisuuteen ole paluuta – Polyamoria eli monisuhteisuus yleistyy

    5. 5

      Sompasaunassa on ahdasta, alastonta ja aitoa – ”Helsinki on paljon siistimpi kuin Tukholma”

    6. 6

      Ruokatoimittaja ja viestintäyrittäjä Elina Jyväs kuoli 40-vuotiaana

    7. 7

      Lappiin matkalla oleva kaupunkifillari hämmensi Hämeenlinnassa – ”Mies otti valokuvia ja uhkasi lähettää ne poliisille”

    8. 8

      Mies tyydytti itseään sekasaunassa, toinen kommentoi naisten vartaloita – seksuaalinen häirintä varjostaa Sompasaunaa

    9. 9

      ”Naamat” on kuin tuhannen ihmisen kotibileet – Tältä näyttää festivaalilla, joka suututti Sami Hedbergin managerin ja jonka liput myytiin loppuun ennen kuin esiintyjiä oli edes julkistettu

    10. 10

      Jos alamme tuomita toisiamme kuvottavien mutta yksityisiksi tarkoitettujen sanomisten vuoksi, olemme matkalla takaisin keskiajalle

    11. Näytä lisää