Teknologia

Tutkijat loivat psykopaattisen tekoälyn – Norman-tekoälystä tuli läpeensä paha, kun sille syötettiin internetin synkintä sisältöä

MIT-korkeakoulu opetti tekoälyn näkemään psykologisessa testissä brutaalia väkivaltaa. Tämä voi olla yksi syy, miksi teknologian eettisyydestä tarvitaan kipeästi keskustelua. Virallinen Suomi on myös tekemässä etiikasta itselleen kilpailuvalttia.

Raskaana oleva nainen putoaa rakennustelineiltä.

Mies kuolee ylinopeutta ajavan auton alle.

Näin vastailee Norman, kun Normanille näyttää musteläiskiä. Norman on yhdysvaltalaisen Massachusettsin teknologiakorkeakoulu MIT:n pahuuteen koulutettu tekoäly.

Se näkee kaikkialla väkivaltaisia tapoja kuolla.

Normanin tila johtuu siitä, että tutkijat kouluttivat tekoälyn image captioningiksi kutsutulla menetelmällä. Siinä kone oppii sanoittamaan kuvat tekstiksi. Kuvat otettiin eräästä internetin synkästä nurkasta Reddit-palstalla, jossa joka kuvan tai videon tulee sisältää todellinen kuolemantapaus.

Tekoäly nimettiin Normaniksi Alfred Hitchcockin Psyko-elokuvassa (1960) kauhua kylväneen motellinomistaja Norman Batesin mukaan.

Elokuvassa Norman oli ankaran äidin kasvatti, joka ratkaisi ongelmia päästämällä ongelmat päiviltä – myös äitinsä. Dissosiatiivisen häiriön johdosta poika ei pysty elämään ilman äitiään, kaivaa tämän ylös haudasta ja esiintyy äitinään tappaen kaikki, jotka kokee uhkana.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Psykopaatti? Ehkä ei, mutta epämiellyttävä tyyppi varmasti.

Norman-nimen saaneelle tekoälylle näytettiin kuuluisa Rorschachin musteläikkätesti vuodelta 1921. Kun tavallisesti koulutettu tekoäly näkee läikässä hääkakun, Norman näkee yliajon uhrin. Kun tavallisesti koulutettu tekoäly näkee linnun, Norman näkee miehen, joka imaistaan sisälle taikinakoneeseen.


Jos Normanin ”näkemät” asiat ovat puistattavia, kovin kummoisia ei kuvittele verrokkitekoälykään:

Tyypillisin tulkinta kuvasta, jossa Norman näkee taikinakoneen, on eläimen talja. Alemmassa kuvassa hyvin usein ei nähdä mitään yhtenäistä, mutta verrokkitekoäly keksi kuitenkin nähdä mustavalkoisen kuvan punavalkoisesta sateenvarjosta. Norman näki samassa kuvassa hengenlähdön sähköiskulla.


Musteläiskätestinkin pätevyydestä ollaan psykologien kesken montaa mieltä.

Vuonna 1921 kehitettyä testiä on kritisoitu paljon ja laajasti, mutta kansallinen Käypä hoito -suositus tarjoaa sitä yhä hyödylliseksi työkaluksi esimerkiksi silloin, kun arvioidaan epävakaasta persoonallisuushäiriöstä kärsivän potilaan tunne-elämän epävakautta ja itsetuhoisuutta.

Mutta miksi tekoäly piti tahallaan ”sairastuttaa”?

MIT haluaa osoittaa, että se, mitä dataa koneoppivalle tekoälylle annetaan käyttöön, ei ole merkityksetöntä. Tekoäly ei tunne hyvää ja pahaa, ellei ihminen sitä kouluta.

”Kun puhutaan siitä että algoritmit ovat epäreiluja, syyllinen ei useimmiten ole algoritmi, vaan vinoutunut data, jota algoritmille on annettu”, Normanin luonut MIT Media Labin tiimi kertoo HS:lle sähköpostitse.

Normanille tehty on päässyt tapahtumaan jo muutaman kerran aiemminkin:

Esimerkiksi Microsoftin sosiaaliseen mediaan tuoma Tay-tekoäly muuttui Twitterissä muutamassa päivässä törkeyksiä töräytteleväksi rasistiksi. Tay oli ohjelmoitu oppimaan muiden käyttäjien kanssa käymistään keskusteluista ja kehittämään ”persoonallisuuttaan” sen avulla. Ominaisuuden johdosta internetin käyttäjät opettivat Tayn vaatimaan juutalaisten kaasuttamista, toivomaan feministien palavan helvetissä ja puolustamaan meksikolaisten kansanmurhaa.

Googlen kuvientunnistus puolestaan oli oppinut pitämään afroamerikkalaisia gorilloina.

Samaan aikaan tekoälyä käytetään niin teollisuudessa kuin hoitotyössä. Helsingin Kalasataman terveyskeskuksen aulassakin asiakkaita opastaa Pepper-robotti. Pepper-robotit on nimenomaan suunniteltu ihmiskontakteihin.

Japanissa Pepper-robotteja on ostettu koteihinkin. Vuonna 2016 HS:n toimittaja kohtasi yhden Tokiossa paikallisen teleoperaattorin myymälässä. Se kuitenkin jutteli kummallisia.

”Voinko kertoa jotain kävelemisestä”, se sanoi. ”Olen kovin kiireinen. En valehtele. Väsyttää. Voinko hieman nukkua”, Pepper höpötti.

Entäpä jos joku ihminen, ketunhäntä kainalossa, ohjelmoisi Pepperin tekoälyyn MIT:n projekti Normanin kaltaisia ominaisuuksia? Tuskin olisi sen vaivalloisempaa kouluttaa Pepper rupattelemaan murhafantasioita kuin kertomaan, että röntgen löytyy vasemmanpuoleisen käytävän päästä.

Voisiko tekoäly oppia murhaamaan katseltuaan tarpeeksi väkivaltaa? Voisiko kotiapulaisrobotin ohjelmoida tappamaan omistajansa?

”Tekoäly on algoritmi, joka on optimoitu toimimaan tietyn tarkoituksen mukaan. Tokihan puolustusteollisuudessa tekoälyä suunnitellaan tekemään nimenomaan kaikenlaista pahaa. Teknisesti tuollainen lienee toteutettavissa, jos joku niin haluaa. Toivon kuitenkin, että tekoälykehitykseen saadaan sellaiset rutiinit, jotka tekevät tuollaisen mahdottomaksi käytännössä. Minun mielestäni robotti on kuitenkin ihmisen apulainen”, sanoo kansallisen Teknologian tutkimuskeskus VTT:n johtava tutkija Raija Koivisto.

Koivisto on VTT:n johtava tutkija marraskuuhun saakka kestävässä yhteishankkeessa, jossa selvitetään tekoälyn ja ohjelmistorobotiikan käyttöön viranomaistoiminnassa liittyviä eettisiä kysymyksiä.

Tekoäly Norman tuntuu epämiellyttävältä, jopa pelottavalta. Myös Koivisto myöntää olleensa MIT:n hankkeesta lukiessaan epäilevällä kannalla. Luoda nyt mahdollisimman ikävän oloinen tekoäly.

Palveleeko sellainen mitään tarkoitusta?

”Tekoäly on oikeastaan pitkälti tilastomatematiikkaa ja todennäköisyyslaskentaa. Keskustelin tästä Aalto yliopistossa työskentelevän kollegani, tohtoritutkija Kari Hiekkasen kanssa, joka vertasi osuvasti että jos tekoäly opetettaisiin keittokirjalla, se näkisi musteläiskissä hampurilaisia. Tekoälyllä ei ole muuta kuin mitä sille on opetettu.”

Saako sille opettaa murhakuvastoa?

Kohahduttavat esimerkit, kuten vaikkapa MIT:n Norman, eivät välttämättä lisää ymmärrystä tekoälystä, pohtii Koivisto. Keskustelua tekoälyn eettisyydestä kuitenkin tarvitaan.

”Jokaisella meistä voi olla oma käsityksemme siitä, mikä on eettistä, mutta yhteinen näkemys rakentuu vasta yhteiskunnallisen keskustelun kautta. Lait ja kansainväliset sopimukset takaavat tietysti perusteet, mutta kehityksen tuodessa meille jotain uutta, joudumme etsimään vastauksia, miten niitä voi soveltaa.”

Ymmärrys teknologian eettisistä ulottuvuuksista tulee lisääntymään vähitellen, uskoo Koivisto. Hän vertaa kehitystä siihen, miten käsityksemme turvallisuudesta on muuttunut.

”Kun tehtaisiin tulivat automaatiojärjestelmät 30–40 vuotta sitten, järjestelmien myötä alkoi ilmetä suuronnettomuusriskejä. Sen jälkeen riskejä ryhdyttiin analysoimaan, ja vasta sen jälkeen turvallisuusratkaisuja voitiin ryhtyä implementoimaan”, Koivisto sanoo.

”50 vuotta sitten turvallisuus oli peikko, joka aiheutti lisäkustannuksia. Nykyään se on lisäarvo, josta ollaan valmiita maksamaan. Viime kuukausina keskustelu teknologian eettisyydestä on lisääntynyt valtavasti. Aavistelen, että sille tapahtuu lisäarvona samoin kuin turvallisuudelle.”

Suomessa Juha Sipilän hallitus on asettanut työryhmän, jonka tehtävänä on tehdä selonteko työotsikolla ”Eettistä tietopolitiikkaa tekoälyn aikakaudella”. Selonteko on määrä antaa eduskunnalle tulevana syksynä.

Eettisestä tekoälystä haetaan Suomelle kilpailuetua. VTT on kirjoittanut asiasta blogissaan.

Toivoa on. Siitä kertoo myös MIT:n Norman-tekoälylle kaavailtu tulevaisuus:

Norman on saamassa ”terapiaa” – sieltä, mistä sai näennäisen luonnehäiriönsäkin eli internetistä. Normanin kehittäjät keräävät uutta aineistoa Roscachin musteläiskätestistä, ja aineiston avulla Norman toivottavasti ”paranee”.

Testiin voi käydä vastaamassa tästä linkistä.

”Olemme saaneet noin 400 000 vastausta”, MIT:sta kerrottiin HS:lle tiistaina.

Projektista lisää täällä. Korjaus 14.42: Rorschachin kieliasu korjattu.

    Seuraa uutisia tästä aiheesta

  • Tekoäly
  • Turvallisuus
  • Teknologia
  • Etiikka
  • Laura Halminen

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      Tällainen on Suomi: Kun Trump ja Putin olivat poistuneet, presidentti Niinistö lähti terassille kuin kuka tahansa

    2. 2

      HS tapasi Trumpin ja Putinin tilaisuutta hämmentäneen ja putkaan viedyn toimittajan: ”Tätäkö on Suomen mainostettu lehdistönvapaus?”

    3. 3

      Meilahden sairaalan alueen sähkökatkojen syy selvisi: Räjähdys Olkiluodon ydinvoima­laitoksessa

    4. 4

      Donald Trump antoi raivoa herättäneelle kommentilleen niin hämmentävän selityksen, ettei internet voinut muuta kuin keksiä siitä toinen toistaan tylympiä vitsejä

    5. 5

      ”Kaivoimme, koska luulimme ettemme voi odottaa” – Luolasta pelastetut pojat astelivat ensimmäistä kertaa median eteen ja kertoivat koettelemuksestaan

    6. 6

      Espoossa toisen koiran tappanut ja ulkoiluttajaa purrut amstaffi oli kuullut haukuntaa kadulta ja karannut aidan raosta

    7. 7

      Ihminen voi hukkua täpötäydellä uimarannalla 30 sekunnissa kenenkään huomaamatta – ”Hukkuva ei näytä yleensä hukkuvalta”

    8. 8

      Amerikkalaismediassa Trumpia kutsuttiin lapsi­presidentiksi ja republikaaneilta vaadittiin selkä­rankaa – Trumpin mukaan ”vihaajat halusivat nähdä nyrkkeily­ottelun”

    9. 9

      Heidi Juvonen on ollut pian vuoden ostamatta mitään turhaa, vaikka hänellä on kolme alaikäistä lasta ja kaksi kissaa – Näin se onnistui

      Tilaajille
    10. 10

      Poliisi tutkii: Amstaffi tappoi shetlanninlammaskoiran ja hyökkäsi 16-vuotiaan tytön kimppuun Espoossa

    11. Näytä lisää
    1. 1

      Trump pyörtää puheitaan Helsingin-kokouksen jälkeen: Venäjä sekaantui Yhdysvaltojen vaaleihin

    2. 2

      Jäämies Ötzi kuoli täysin vatsoin, mutta nykyihmistä hänen viimeinen ateriansa voi hirvittää

    3. 3

      Tällainen on Suomi: Kun Trump ja Putin olivat poistuneet, presidentti Niinistö lähti terassille kuin kuka tahansa

    4. 4

      Lastaan pelastaessa hukkunut äiti oli veden alla yli 40 minuuttia vilkkaalla uimarannalla Vantaalla – Uima­valvojille on järjestetty kriisiapua

    5. 5

      Trump purki raivoaan Fox Newsin haastattelussa ja muisteli Neuvostoliiton sotauhreja – ”En halua edes käyttää Venäjästä sanaa vastustaja”

    6. 6

      Täysin kokeellinen hoito tuotti yllättävän tuloksen: ihosyöpä hävisi kokonaan 97-vuotiaalta naiselta

    7. 7

      Sana ”moi” riitti lopettamaan huumeidenkäyttäjien häiriköinnin Töölön kirjastossa – ”Jos ihminen nähdään vain järjestyshäiriönä, käytös on sen mukaista”

    8. 8

      Kesän lämpöennätys nousi 33,3 asteeseen, Lapissa on yhtä lämmintä kuin Roomassa – Kuvakooste näyttää, kuinka Helsingissä hikoiltiin

    9. 9

      Poliisi tutkii: Amstaffi tappoi shetlanninlammaskoiran ja hyökkäsi 16-vuotiaan tytön kimppuun Espoossa

    10. 10

      36-vuotias nainen sai pelastettua hukuksissa olleen lapsen Vantaalla, mutta hukkui itse – pelastuslaitoksen mukaan hukkunut oli lapsen äiti

    11. Näytä lisää
    1. 1

      Republikaani­senaattori John McCain: Helsingin huippu­kokous oli hirvittävä virhe – lue HS:n seuranta Trumpin ja Putinin tapaamisen käänteistä

    2. 2

      Trump tuhosi Helsingin huippukokouksen yhdellä iskulla – amerikkalaiset tyrmistyivät Trumpin ”antautumisesta” Venäjän presidentille

    3. 3

      Donald ja Melania Trumpin saattue saapui Kalastaja­torpalle suuren väkijoukon saattelemana – lue HS:n seuranta sunnuntain tapahtumista

    4. 4

      Suomen hipsterein paikka on pieni kylä Nokian hylkäämässä Salossa – ”Elämäntilanteeni on niin hyvä, ettei siitä melkein kehtaa puhua”

    5. 5

      Los Angeles Timesin toimittaja tuli Helsinkiin raportoimaan huippukokouksesta, mutta rakastuikin julkiseen liikenteeseen – ”Suomi on voittanut minut puolelleen”

    6. 6

      Jäämies Ötzi kuoli täysin vatsoin, mutta nykyihmistä hänen viimeinen ateriansa voi hirvittää

    7. 7

      Suomalais­sukeltaja Mikko Paasi oli thaimaalaisessa luolassa viimeisten joukossa ja joutui pakenemaan nousevaa vettä viime hetkellä – nyt hän kertoo HS:lle tapahtumien dramaattiset vaiheet

    8. 8

      Trump teki etikettimokan ja saattoi kuningatar Elisabetin kiusalliseen tilanteeseen Britanniassa

    9. 9

      Espoolaisilta 13-vuotiailta löytyi huume­seulassa jopa viittä eri ainetta – Eräs poika yritti sekavassa tilassa kaupata rauhoittavia lääkkeitä lastensuojelun työntekijällekin

    10. 10

      Näistä syistä Kalastajatorppa on ylivoimainen paikka Trumpin yöpaikaksi

    11. Näytä lisää
    Uusimmat
    1. Juuri nyt
    2. Entinen Veikkausliigahyökkääjä äimistelee uutta jalkapallokieltä – ”Eikö mikään ole pyhää?”
    3. Naisten jalkapallomaajoukkueen Nora Heroumin ura jatkuu AC Milanissa: ”Olen todella innoissani ja onnellinen”
    4. Kehopositiivinen Iso kolmonen -podcast käsittelee ”läskinä oloa” ja nyt sen tekijät kertovat, mikä kaikki lihavuuskeskustelussa on pielessä
    5. Heidi Juvonen on ollut pian vuoden ostamatta mitään turhaa, vaikka hänellä on kolme alaikäistä lasta ja kaksi kissaa – Näin se onnistui Tilaajille
    6. Facebook juhli vahingossa Nelson Mandelan kuoleman satavuotisjuhlaa – Kysyimme Facebookilta, miksi
    7. ”Kaivoimme, koska luulimme ettemme voi odottaa” – Luolasta pelastetut pojat astelivat ensimmäistä kertaa median eteen ja kertoivat koettelemuksestaan
    8. Nyt on ihan tuskaisen kuuma, mutta ei hätää: tätä videota katsomalla tulee paljon viileämpi olo
    9. Meilahden sairaalan alueen sähkökatkojen syy selvisi: Räjähdys Olkiluodon ydinvoima­laitoksessa
    10. HS tapasi Trumpin ja Putinin tilaisuutta hämmentäneen ja putkaan viedyn toimittajan: ”Tätäkö on Suomen mainostettu lehdistönvapaus?”
    11. Amerikkalaismediassa Trumpia kutsuttiin lapsi­presidentiksi ja republikaaneilta vaadittiin selkä­rankaa – Trumpin mukaan ”vihaajat halusivat nähdä nyrkkeily­ottelun”
    12. Näytä lisää