Auto

Robottiauto joutuu tekemään päätöksiä elämästä ja kuolemasta – testaa, miten valitsisit itse

Miten tekoäly selviää liikennetilanteista, jossa sen pitää päättää ajaako auto ojaan vai tielle juosseen lapsen yli? Kysyimme asiantuntijalta, joka tutkii koneiden moraalipsykologiaa.

Autonvalmistajat myyvät meille houkuttelevaa kuvaa tulevaisuudesta.

Siinä me ihmiset voimme jättää auton ohjaamisen älykkään tietokonejärjestelmän huoleksi. Meistä tulee kuljettajien sijaan matkustajia, ja automatkoilla voimme keskittyä ratin kääntämisen sijaan vaikkapa nukkumiseen tai elokuvien katseluun.

Tällainen tulevaisuus ei ole kaukana. Esimerkiksi Ford on kertonut tuovansa täysin itsestään ajavan, ratittoman auton markkinoille jo vuonna 2021. Tesla taas sanoo, että sen autot pystyvät täysin autonomiseen ajoon jo ensi vuonna.

Tekoälyn ohjaama auto olisi autonvalmistajien mukaan paljon turvallisempi kuski kuin ihminen, mutta entäs jos jotain menee vikaan?

Kuvittele tilanne, jossa olet tekoälyn ohjaaman auton kyydissä ja auton eteen juoksee yhtäkkiä lapsi. Lapsi jää varmasti auton alle, ellei tekoäly päätä ohjata autoa toiselle kaistalle. Toisella kaistalla vastaan ajaa kuitenkin rekka, joten näin auton matkustaja kuolisi, mutta lapsi pelastuisi.

Miten sinä ohjelmoisit auton tekoälyn? Pelastaisitko lapsen vai auton matkustajan?

Edellinen skenaario on klassinen esimerkki tekoälyn etiikan ongelmista. Kysymys on niin vaikea, että mikään autonvalmistaja ei ole ottanut siihen selkeää kantaa.

Saman kysymyksen parissa työskentelee myös kognitiotieteen tutkijatohtori Michael Laakasuo. Hän johtaa Helsingin yliopiston tutkimushanketta Moralities of Intelligent Machines. Hankkeessa tutkitaan robottien moraalipsykologiaa ja muun muassa sitä, minkälaisia odotuksia ihmisillä on robottien moraalin suhteen.

”Tekoälyn moraalista pitäisi saada aikaan suuri julkinen keskustelu. Sitä ei voi jättää vain yksittäisten insinöörien päätettäväksi”, Laakasuo sanoo.

Miten Laakasuo ratkaisisi yllä esitetyn ongelman? Minkälainen moraali olisi autolle paras?

”Siihen en suoraan pysty vastaamaan. Se riippuu arvoista.”

Autolle voisi esimerkiksi ohjelmoida sellaiset arvot, jotka pakottavat auton noudattamaan kaikissa tilanteissa liikennesääntöjä.

”Jos arvomaailma on sellainen, että lakeja ei saa rikkoa, silloin sellainen moraali on paras, joka pitää auton tiukasti ja kylmästi lakia noudattavana vempeleenä.”

Tällainen auto voisi kuitenkin joutua ongelmiin, jos joku toinen liikenteessä ei noudatakaan sääntöjä.

”Jos minulla olisi jokin tietty syy ylittää autotie esimerkiksi hätätilanteessa, ei auto saisi ajaa minun ylitseni, vaikka en noudattaisi liikennesääntöjä”, Laakasuo sanoo.

Toisaalta autolle voisi ohjelmoida arvot, joiden pohjalta se pitää parhaana ratkaisuna sitä, mikä säästää eniten ihmishenkiä. Silloin auton olisi tietyissä tilanteissa pakko rikkoa lakia.

Selkeää oikeaa vastausta ei ole. Siksi Laakasuon mukaan tekoälyn moraalille pitäisi luoda kansainvälinen normisto, johon kaikkien on sitouduttava.

”Ainoa toimiva tapa edetä on luoda hyvin tiukat kansainväliset normit auton käyttäytymisestä. Auton käyttäytymistä ohjaavan lähdekoodin on oltava avointa, eikä mikään yksittäinen taho saisi kehittää omaansa.”

Ilman yhteisiä sääntöjä maanteillä ajaisi erilaisilla moraaleilla varustettuja autoja: yksi pitäisi lain noudattamista tärkeimpänä, toinen turvallisuutta ja kolmas vauhdin hurmaa.

Se ei sinänsä eroaisi kovin paljon nykytilanteesta, jossa liikenteessä ajaa useita erilaisilla moraaleilla varustettuja ihmisiä. Ihmisten odottamattomiin ratkaisuihin olemme kuitenkin tottuneet, mutta selviäisimmekö arvaamattomien tekoälyjen keskellä? Siksi tekoälyn moraalikoodisto pitäisikin luoda yhdessä, Laakasuo sanoo.

”Tästä kysymyksestä tekee moraalisen juuri se, että autot pitää ennakolta ohjelmoida.”

Laakasuo uskoo, että ihmiskunta voi päästä sopuun autojen tekoälyä ohjaavan moraalin määrittelemisessä.

”Onhan meillä globaalit ja yhteiset säännöt esimerkiksi lentoliikenteelle.”

Tekoäly on kehittynyt viime vuosina harppauksin, mutta toki itsestään ajavat autot ovat vielä kaukana tavallisten ihmisten autotalleista.

Alla olevasta grafiikasta saat lisätietoa itsestään ajavien autojen kehitysvaiheista. (juttu jatkuu grafiikan jälkeen)

Monet tekoälyasiantuntijat pitävät autonvalmistajien lupaamia aikatauluja liian kunnianhimoisina.

Laakasuon mukaan päättäjät ovat vastuuttomia, jos esimerkiksi Fordin täysin itsestään ajava auto päästetään markkinoille jo 2021.

”Ei meillä ole tietoa siitä, miten sen algoritmiikkaa toimii. Fordilla on oikeus nykyisten liikesalaisuuslakien nojalla estää ketään urkkimasta sitä. On siinä paljon erinäköisiä ongelmia.”

Ongelmallista on Laakasuon mukaan esimerkiksi se, että itsestään ajavia robottiautoja myydään turvallisuudella.

”Itseään ajavien autojen turvallisuudesta erilaisissa liikenneympäristöissä ei ole kattavaa tieteellistä tai tilastollista näyttöä. Väite, että maailma olisi robottiautollisena turvallisempi, on siis väitteenä pelkkä lupaus.”

Robottiautojen etiikasta autonvalmistajat eivät ole tehneet kattavia lupauksia. Autonvalmistajien suhtautumisesta tekoälyn mahdollisiin moraalivalintoihin ei olekaan juuri tietoa.

Autonvalmistajien ajattelusta saatiin tosin hiljattain näyte, kun Mercedes-Benzin johtoon kuuluvaa Christoph von Hugoa haastateltiin Pariisin autonäyttelyssä.

Hän kommentoi robottiauton etiikkaongelmaa Fortune-lehden mukaan näin:

”Jos voit olla varma ainakin yhden ihmisen pelastamisesta, pelasta hänet. Pelasta ihminen, joka on autossa. Jos tiedät varmasti vain sen, että yhden henki voidaan pelastaa, sen pitäisi olla ykkösprioriteetti.”

Von Hugon mukaan kolaritilanteet ovat niin kaoottisia, että tekoälyn pitäisi asettaa etusijalle ne ihmiset, joiden kohtaloon se voi eniten vaikuttaa. Tällaisessa tilanteessa tekoäly siis asettaisi auton matkustajat etusijalle ja suojelisi omistajaansa. Se ajaisi lapsen yli, koska se pystyisi todennäköisemmin pelastamaan auton matkustajan kuin jalankulkijan.

Von Hugo huomautti, että tämä eettinen ongelma ei tulevaisuudessa kuitenkaan ole niin keskeinen, koska Mercedes-Benzin tavoitteena on kehittää niin hyviä robottiautoja, etteivät ne joudu noin hankaliin tilanteisiin.

Von Hugon kommenteista uutisoitiin laajalti kansainvälisessä mediassa, ja myöhemmin Mercedes-Benz otti yhteyttä Fortune-lehteen ja väitti, että von Hugoa oli siteerattu väärin.

Autonvalmistajan lausunnon mukaan ”ohjelmoijat tai automatisoidut järjestelmät eivät ole oikeutettuja arvottamaan ihmisen elämää”. Lisäksi yhtiö totesi, että se ei voi lainsäädännön puitteissa ottaa kantaa siihen, onko jonkun ihmisen elämä arvokkaampi kuin toisen.

Aluksi autoyhtiö antoi siis monimutkaiseen kysymykseen yksinkertaisen vastauksen, mutta perui myöhemmin puheensa.

Laakasuo pitää von Hugon väitettyjä puheita moraalittomina.

”Niiden perusteella Mersu on siis päättänyt, että jalankulkijat ovat vähempiarvoisia ja vähemmän oikeutettuja elämään.”

Autonvalmistajalle voisi olla selkeä valinta markkinoida itsestään ajavaa autoa niin, että se suojelisi kaikissa tilanteissa omistajaansa ja matkustajia. Laakasuon mukaan siitä seuraa kuitenkin monia ongelmia.

”Se asettaa köyhät ja rikkaat eri asemaan. Köyhillä ei ole varaa itsestään ajaviin autoihin, rikkailla on. Sanoisin, että tuo positio on ilkeä, kamala ja paha.”

Jos autot suojelisivat kaikin keinoin matkustajiaan, autot olisivat liikenteessä tavallaan sodassa toisiaan vastaan.

”Se on ilmiselvä peliteoreettinen lopputulos”, Laakasuo sanoo.

”Jos autot ovat sodassa toisiaan vastaan, ja kuljettajaa suojellaan, autot kasvaisivat ulkomuotonsakin suhteen panssarivaunuiksi.”

Laakasuo ottaa esiin vielä yhden esimerkin, joka kuvaa hyvin tekoälyn moraalin pohdinnan vaikeutta.

Kuvittele tilanne, jossa robottiautossasi on viisi matkustajaa. Matka kulkee mukavasti, kunnes autoon tulee jarruvika, minkä takia auto on törmäämässä jalankulkijaan. Pelastaisitko jalankulkijan ajamalla ojaan ja asettaisit matkustajat vaaraan vai uhraisitko jalankulkijan ja pelastaisit ehkä jopa viisi matkustajaa?

Moraalipsykologisissa tutkimuksissa on huomattu, että tietyissä tilanteissa monet uhraisivat yhden hengen, jotta viisi pelastuisi.

”Tällaisissa tilanteissa ihmiset ovat herkkiä tekemään tuon valinnan”, Laakasuo sanoo.

Ihmisistä tulee kuitenkin huomattavasti epävarmempia, jos asetelmaa muutetaan hieman, Laakasuo sanoo. Jos vastaajille esitetäänkin tilanne, jossa jalankulkijan tilalle pitää kuvitella itsensä tai lapsensa, valinnasta tulee paljon vaikeampi.

Uhraisitko itsesi, jos viisi pelastuisi?

HS Digistä löydät Hesarin juttuarkiston helmet
Saat tilaajana kokeilla HS Digiä maksutta
Tilaajille
Haluatko lukea koko artikkelin?

    Seuraa uutisia tästä aiheesta

  • auto
  • Robottiautot
  • Robotiikka

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    1. 1

      Suomen 100-vuotis­juhlan suurin päätös: Edus­kunta antaa 50 miljoonaa euroa tuntemattomalle pikku­säätiölle, jolla ei ole yhtään vakituista työntekijää

    2. 2

      Uuden Tuntematon sotilas -elokuvan tekijätiimi ottaa kantaa #metoo-keskusteluun ja puolustaa Paula Vesalaa

    3. 3

      Olimme lukiossa keskiverto-opiskelijoita – meistä tuli tutkija­tohtoreita valinta­kokeen ansiosta

    4. 4

      Poppari Antti Tuisku on vaiennut vuosia seksuaalisuudestaan ja kertoo nyt, miksi – ”Sie oot hirveen haavoittuva, jos avaat koko sielusi kaikille”

      Tilaajille
    5. 5

      Nyt puhuu Ensitreffit alttarilla -asiantuntija, joka myöntää mokanneensa eikä usko sen oikean löytämiseen: Miksi täydellisten parien muodostaminen on niin vaikeaa?

    6. 6

      Onko se hyvä, jos syysloman jälkeen ash? Testaa, ymmärrätkö, mitä lapsesi sinulle sanovat (ja mitä he sinusta ihan oikeasti ajattelevat)

    7. 7

      Asiakas virtsasi myynnissä olleiden työkalujen päälle myymälässä Kampissa – Poliisi: ”Herra oli kuulusteluissa itsekin yllättynyt, että tällaista on tapahtunut”

    8. 8

      Pam: Useita työn­tekijöitä häiritty seksuaalisesti K-Super­marketissa Tampereella – Kauppias irtisanoutui: ”Totta kai kiistän kaiken”

    9. 9

      Tämän opin ranskalaiselta rakkausvalmentajalta: Kumppanin kanssa pitää voida olla myös heikko

    10. 10

      Facebookin Messenger haluaa, että tunnemme itsemme hylätyiksi – Tämän takia nähtyyn viestiin vastaamatta jättäminen satuttaa

    11. Näytä lisää
    1. 1

      Poppari Antti Tuisku on vaiennut vuosia seksuaalisuudestaan ja kertoo nyt, miksi – ”Sie oot hirveen haavoittuva, jos avaat koko sielusi kaikille”

      Tilaajille
    2. 2

      Hyytävä sää vyöryy nyt etelään asti: luvassa jopa päiväpakkasia ja räntää – ”Talvirenkaat alle”, suosittelee Liikenneturva

    3. 3

      Laulaja Tomi Metsäketo kirjoittaa itseensä kohdistuneista häirintäsyytöksistä, mutta kiertää keskustelun seksuaalisesta häirinnästä – Tästä on kyse

    4. 4

      Tapasi vastata puhelimeen saa ihmiset kuvittelemaan sinusta monta asiaa – tutkijat analysoivat tarkasti, millainen tervehdys kuulostaa luotettavalta

    5. 5

      Patjasta löytyi jopa 20 miljoonaa: Pyramidihuijauksen rahanpesusta epäilty tunnusti viimein torstaina

    6. 6

      Onko se hyvä, jos syysloman jälkeen ash? Testaa, ymmärrätkö, mitä lapsesi sinulle sanovat (ja mitä he sinusta ihan oikeasti ajattelevat)

    7. 7

      ”Ota poikasi kainaloon” – Jos haluat kasvattaa pojan, joka ei ahdistele, yksi keino on lastenpsykiatri Jari Sinkkosen mukaan ylitse muiden

    8. 8

      Länsimetron koeajo tyssäsi tällä kertaa vaihdevikaan Otaniemessä – Metrojohtaja: ”Kriittisiä vikoja on korjattavana 150–200”

    9. 9

      Miten terve, koulutettu ja menestyvä nainen voi uupua jopa ennen kuin täyttää 30?

    10. 10

      Uuden Tuntematon sotilas -elokuvan tekijätiimi ottaa kantaa #metoo-keskusteluun ja puolustaa Paula Vesalaa

    11. Näytä lisää
    1. 1

      Ossi Nyman ei tee töitä ja sanoo, että työvoimatoimisto on ihmisoikeusloukkaus – näin ”ideologisesti työtön” taktikoi itselleen yhteiskunnan tuet

      Tilaajille
    2. 2

      ”Äiti soittaa”, vilkutti puhelin kuolleen pojan vieressä – oppilas Niina Sassi, poliisi Timo Leppälä ja muut Jokelan koulusurman kokeneet kertovat nyt, millaiset jäljet tragedia jätti

      Tilaajille
    3. 3

      Sairaanhoitaja Paula Vuotila, 61, eli 30 vuotta ”koulutetun eliittielämää” – sitten hän ajautui asumaan rappukäytävissä

    4. 4

      ”Kaikki alalla olevat tietävät sen ringin” – Suomen elokuva-alalta kerätyssä kymmenien ahdistelukertomusten aineistossa muutama nimi toistuu

    5. 5

      ”Ota poikasi kainaloon” – Jos haluat kasvattaa pojan, joka ei ahdistele, yksi keino on lastenpsykiatri Jari Sinkkosen mukaan ylitse muiden

    6. 6

      Aleksis Salusjärvi oli lukiossa, kun nainen kavahti häntä ensi kerran bussipysäkillä – #MeToo-kampanja herätti miehet kertomaan, miltä tuntuu, kun nainen pelkää

    7. 7

      Kirjailija kertoi olevansa ”ideologisesti” työtön ja kikkailevansa tukia – TE-toimisto katkaisee tuet ja aloittaa poikkeuksellisen selvityksen

    8. 8

      Kuura Maula ei kutsu lastaan pojaksi, Maisa Leppänen antoi poikansa pukeutua mekkoon – Näin toimii vanhempi, joka haluaa kasvattaa lapsensa feministisesti

      Tilaajille
    9. 9

      Poppari Antti Tuisku on vaiennut vuosia seksuaalisuudestaan ja kertoo nyt, miksi – ”Sie oot hirveen haavoittuva, jos avaat koko sielusi kaikille”

      Tilaajille
    10. 10

      Rikollisjengi kaappasi ruokakaupan Malmössä ja ryhtyi pyörittämään sitä itse – ”En ole koskaan nähnyt mitään vastaavaa”

    11. Näytä lisää
    Uusimmat
    1. Juuri nyt
    2. Britannian Theresa May tasapainotteli brexit-nuoralla Brysselissä – kotiyleisö ei siedä uutta lupausta rahasta, muu EU haluaa lisää
    3. Kaupunkipyöräilijän ei tarvinne vaihtaa kulkupeliä kaupunkien rajalla – Helsingissä toimiva yritys voitti kilpailutuksen myös Espoon kaupunkipyöristä
    4. Apartheidin vastustamista, Michael Monroe -nukkeja Japanissa ja selkkaus levy-yhtiön kanssa – Monroen soolouran alkuvuodet olivat hurmosta kunnes tuli stoppi
    5. Suomen 100-vuotis­juhlan suurin päätös: Edus­kunta antaa 50 miljoonaa euroa tuntemattomalle pikku­säätiölle, jolla ei ole yhtään vakituista työntekijää
    6. Poliisi tunnisti Helsingin Kaivopuiston edustalta merestä löytyneen vainajan – 53-vuotias mies oli ilmoitettu kadonneeksi, tapahtumaan ei liity rikosta
    7. Pam: Useita työn­tekijöitä häiritty seksuaalisesti K-Super­marketissa Tampereella – Kauppias irtisanoutui: ”Totta kai kiistän kaiken”
    8. Peräkärry liekehti autokatoksessa Itä-Helsingissä
    9. Uusnatsien ja heidän vastustajiensa mielenosoituksiin voi saapua satoja ihmisiä lauantaiksi Tampereelle – poliiseja tulossa ympäri maata ”isolla orkesterilla”
    10. Kohta iskee talvikeli, ja monien nastarenkaat ovat luokattoman huonossa kunnossa, kertoo tutkimus – Olisivatko kitkarenkaat parempi vaihtoehto?
    11. Lennonjohtajat marssivat ulos sopimus­neuvotteluistaan – syynä työtuomio­istuimessa meneillään oleva riita
    12. Näytä lisää