Teknologia

Demokratia on uhattuna, jos tekoäly­järjestelmistä ei tehdä nykyistä eettisempiä ja läpinäkyvämpiä – Näin sanoo VTT:n johtava tutkija Raija Koivisto

”Läpinäkyvyys ja luottamus ovat avainkysymykset tekoälyn soveltamisessa”, sanoo Raija Koivisto.

Teknologian piilovalta on yksi viidestä tämän vuoden suuresta uutisaiheesta, jonka ongelmat tulivat silmille ja joka sai monet tekemään asioita toisin.

Helsingin Sanomat esitteli nämä viisi valitsemaansa rumaa totuutta – neljä muuta ovat sota, ilmastonmuutos, muovi meressä ja #metoo – aiemmin julkaistussa artikkelissa.

Ongelmiin kysyttiin ratkaisuja asiantuntijoilta. Yksi ristiriitaisimmista teknologian piilovaltaan liittyvistä teemoista on tekoäly, josta ihmiset ovat monesti joko kovin tohkeissaan tai aivan kauhuissaan.
Mainos (Teksti jatkuu alla)
Mainos päättyy

HS haastatteli tekoälystä Teknologian tutkimuskeskus VTT:n johtavaa tutkijaa Raija Koivistoa, joka on tekemässä valtioneuvoston kanslialle selvitystä robotiikan ja tekoälyn sääntelyn ja hyväksikäytön etiikasta sekä yhteiskunnallisesta hyväksyttävyydestä.

Kun tekoälyjärjestelmät leviävät viranomaisten käyttöön, niiden on oltava nykyistä eettisempiä ja läpinäkyvämpiä, tai muuten koko demokratia on uhattuna, Koivisto sanoo. Tässä jutussa Koivisto kertoo, miksi näin on ja mitä asialle voisi tehdä.

”Tekoälyä ei ole ilman dataa. Se on lähtökohta. Tekoäly on rakentunut joko valmiiden sääntöjen pohjalle tai sitten se oppii datasta, jota sille annetaan.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Sääntöpohjaisista järjestelmistä pystytään seuraamaan, millä tavalla ne tekevät päätöksiä, koska kyseinen mekanismi on rakennettu niihin sisään.

Sama mekanismi on rakennettu toki sisään myös uusimpiin oppiviin järjestelmiin, mutta ne ovat todella monimutkaisia. Kun tällaiset tekoälyjärjestelmät oppivat saamastaan datasta ja kehittävät sen perusteella itse itseään, niin jossakin kohtaa ei ole selvää enää kenellekään, millä perusteella ne tekevät ratkaisuja – ei edes kyseisten järjestelmien kehittäjille itselleen.

Tästä seuraa yksi oleellinen ongelma. Kehittyneet tekoälyjärjestelmät eivät ole läpinäkyviä. Kun ajatellaan tekoälyjärjestelmiä viranomaiskäytössä, niin tässä on tosi suuri ristiriita. Viranomaisten päätösten ehdoton vaatimus on se, että päätökset ovat läpinäkyviä.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Kansalaiset ovat myös tottuneet käyttämään sujuvasti kaupallisia tekoälyjärjestelmiä, jotka eivät todellakaan ole läpinäkyviä.

Yksi tuttavani juuri ihmetteli, miten hän saa espanjalaisen kaupan ja ravintolan mainoksia, vaikka on käynyt niissä miehensä kanssa, ja mies on hoitanut kaiken maksuliikenteen. Tuo yhteys on mahdollista muodostaa monella tapaa yhdistämällä erilaisia tietoja, mutta vain Facebook tietää, mitä ja miten se on sen tehnyt.

Viranomaistyössä ei voida käyttää samantyyppisiä järjestelmiä, koska niistä ei tiedetä, miten päätökset ovat syntyneet.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Siitä nimittäin seuraisi luottamukseen liittyviä ongelmia. Karrikoiden voi sanoa, että jos läpinäkymätön tekoälyjärjestelmä antaa tietynlaisia tuloksia, voi seurata kaksi asiaa: joko alamme luottaa vääränlaisiin tuloksiin tai emme luota järjestelmän antamiin tuloksiin ollenkaan.

Vaikka tulokset vaikuttaisivat oikeilta, niihin luottaminen on silti uskon asia, jos järjestelmä ei ole läpinäkyvä.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Jos tällainen välinpitämätön asenne läpinäkyvyyteen leviää, se romuttaa koko teknologian soveltamisen ja luotettavuuden.

Läpinäkyvyys ja luottamus ovat avainkysymykset tekoälyn soveltamisessa.

Mutta sitä ei ole osattu vaatia, kansalaiset ovat vain käyttäneet Facebookia, Googlea ja muita palveluita miettimättä seurauksia.

Tekoäly liittyy myös laajemmin alustoihin.

Alustat keräävät tietoa, jonka avulla ne saattavat palveluiden tai tavaroiden tuottajat ja tarvitsijat yhteen. Tyyppiesimerkkejä alustoista ovat kuljetuspalvelu Uber ja vuokrauspalvelu Airbnb.

Myös Facebook ja Google ovat alustoja, joiden toiminta perustuu tietoon: käyttäessämme niitä annamme niille tietojamme, joita ne taas hyödyntävät esimerkiksi myymällä palveluitaan mainostajille.

Näiden alustojen avulla voidaan kerätä valtavasti tietoa, ja tiedon kerääminen ja omistaminen ovat todella tärkeitä kysymyksiä tekoälyn yhteydessä. Näillä yhtiöillä on nyt valtavasti tietoa ihmisistä, mutta ihan yksistään niitäkään ei voi syyttää tilanteesta.

Kansalaiset ovat antaneet luvan tietojensa keräämiselle, kun ovat hyväksyneet palveluiden ehdot.

Toisaalta nämä teknologiajätit pystyvät nykyään käyttämään suorastaan määrättömästi rahaa kaikenlaiseen tutkimukseen. Ne ovat käyttäneet rahaa myös siihen, miten saavat kehitettyä omat tuotteensa niin koukuttavaksi, että ihmiset eivät vain voi olla käyttämättä niitä.

Se on epäeettistä.

Lue lisää: On yksi hetki, jolloin itsehillintämme pettää ja älylaitteet vievät voiton, sanoo aivotutkija Mona Moisala.

Vaikka teknologiajäteillä on varmaan isot ryhmät pohtimassa eettisyyttäkin, niin siellä voi olla eettisyystutkinta vähän eri rajalla kuin missä se näin kansalaisen mielestä voisi olla.

Nyt ollaan siirtymässä 5g-verkkoon, jonka rakentaminen ja kaupallinen käyttö alkaa ensi vuonna.

Se tarkoittaa ihan valtavaa tiedonsiirron nopeutumista ja reaaliaikaisen tiedon käyttömahdollisuuksien laajenemista. Jos ajatellaan kauhukuvia, niin tekoälyjärjestelmät pystyvät tekemään reaaliaikaisella datalla isojakin vahinkoja ennen kun ehdimme reagoida, jos ei ole loppuun saakka mietitty, millaisia järjestelmiä käytetään.

Höyrykoneen kehittämisestä saakka kehitys yhteiskunnassa on mennyt aikalailla teknologia edellä, eli teknologiaosaajat ovat kehittäneet kaikkea uutta ja mielenkiintoista. Sitä on sitten otettu innolla käyttöön.

Mutta kun on tultu näin monimutkaisiin järjestelmiin, joilla on vaikutuksia koko yhteiskuntaan, niin teknologiatietämys ei enää yksin riitä.

Alla olevalta Ruma totuus -videolta voi katsoa, mitä HS:n haastattelemat asiantuntijat kertovat teknologian piilovallasta.


Mukaan tarvitaan muuta asiantuntemusta, ja nousevista eettisistä kysymyksistä on käytävä avointa keskustelua. Filosofien ja yhteiskuntatieteilijöiden pitäisi jo suunnitteluvaiheessa päästä arvioimaan, miten tekoälyjärjestelmiä ollaan nyt tekemässä ja miten ne kuuluisi tehdä.

Tekoälyn suunnittelun pitäisi olla monitieteellistä hommaa.

Nykyään on olemassa sellaisia asioita kuin yhteiskunta- ja ympäristövastuu. Niitä osataan arvioida, ja on menetelmiä varmentaa, toteutuvatko ne. Vielä 1960- ja 1970-luvulla tällaiset asiat olivat vain lisäkuluja yrityksille.

Samoin ajatellaan nykyään eettisyydestä. Olen puhunut siitä, että tekisimme eettisyydestä kilpailutekijän, joka voisi tuoda lisäarvoa.

Mutta ensin pitää ymmärtää, mikä ilmiö tekoäly on ja mitä kaikkea sen eettisyyteen liittyy. Sitten pitää alkaa kehittää menetelmiä, joilla sitä voi analysoida. Seuraavaksi täytyy miettiä, miten eettisyys pannaan toimeen suunnittelussa ja lopuksi keksiä keinoja todeta, että on toimittu eettisesti.

Näin tekoälyjärjestelmille voisi luoda oman Joutsenmerkkinsä tai jotain vastaavaa. Silloin kansalaiset osaisivat vaatia, että tekoälyjärjestelmät ovat eettisiä.

Olen optimisti. Tekoälyssä on hirveän monia hyviä puolia. Kun on olemassa dataa ja älyä, jolla sitä analysoida sitä dataa, saadaan erilaisia tilannekuvia.

Voimme vaikka huomata, että kananmunista on kohta pula tai että kyberhyökkäykset toistuvat tietyn kaavan mukaan. Niistä on eittämättä hyötyä kansalaisille, yrityksille ja koko yhteiskunnalle.

Mutta kaikkea voidaan käyttää väärin. Mitä tästä viitsisi sanoa ääneen... Ratkaisevaa on se, kenen käsissä data ja teknologiat sen hyödyntämiseen ovat.

Ihmisten profilointi Kiinassa on tästä ääriesimerkki.

Siellä systeemi kerää tietoa koko ajan muun muassa kaduilla, töissä, julkisissa paikoissa ja liikennevälineissä ja pisteyttää sen perusteella jokaisen. Pisteytys määrittelee sitten kansalaisten oikeudet vaikkapa lainan saantiin tai matkustamiseen.

Lue lisää: HS vieraili pikkukaupungissa, jossa Kiinan kohuttu sosiaalinen pistejärjestelmä on jo käytössä.

Eurooppa on tavallaan tällaisen Kiinan keskitetyn hallinnon ja yhdysvaltalaisen vapaan kilpailun puristuksessa. Niissä käytetään erilaisia systeemejä kerätä dataa.

Näyttää siltä, että eettisyys voisi olla eurooppalainen tapa. Se olisi kolmas ulottuvuus asiaan.

Lue lisää: Meidän sukupolvemme on sössinyt ihmiskunnan yksityisyyden, sanoo F-Securen tutkimusjohtaja Mikko Hyppönen.

Nyt tarvitaan keskustelua siitä, mitkä ovat ne tärkeät arvot yhteiskunnassa, jotta saadaan teknologia paikalleen palvelemaan ihmistä eikä päinvastoin. Tarvitaan keskustelua siitä, millaisessa yhteiskunnassa haluamme elää ja minkälaisen yhteiskunnan haluamme jättää lapsillemme.

Tilanne on samankaltainen kuin ilmastonmuutoksen kanssa.

Pitää myös muistaa, että päämäärä ohjaa tekemisiä. Jos meillä on tänä päivänä päämääränä eettisesti toimivat tekoälyjärjestelmät, niin jo se ohjaa tekemisiämme ja tapoja ajatella asiaa.

Ne päätökset, joita teemme tänään, vaikuttavat siihen, millainen tulevaisuus on.

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      Japanissa harvinaiset airokalat ovat nousseet pintaan – Myös tutkijat uskovat historiallisen suuren maanjäristyksen olevan vain ajan kysymys

    2. 2

      Suvi Pitkänen sai huuliinsa pistoshoidosta kudosvaurion, eivätkä ne palaa koskaan ennalleen – ”Epäonnistuneiden hoitojen tuloksia näkee kadulla aivan liian usein”, sanoo plastiikkakirurgi

      Tilaajille
    3. 3

      10 vuotta sitten maailma menetti musiikillisen neron kun Miika Tenkula löytyi kotoaan kuolleena – Vain 34-vuotiaana kuolleen hevikitaristin elämä katkesi tragediaan, johon niin moni taiteilija on kaatunut

      Tilaajille
    4. 4

      Espoolaislähiössä tapahtuu kummia: Kauaksi keskikaupungin vilinästä on syntynyt kivijalkakauppojen keskittymä

    5. 5

      Putkiremontti ilmaiseksi – Anna-Liisa Kuisman taloyhtiö sai omituisen hyvän tarjouksen, mutta mitä se oikeasti tarkoittaa?

    6. 6

      Opettajat kapinoivat omaa järjestöään vastaan työajan muutoksista – ”Palkka laskee jopa 9 000 euroa vuodessa”

    7. 7

      Saturday Night Live pilkkasi hätätilajulistusta, ja Donald Trump sai tarpeekseen: ”Miten kanavat selviävät tästä ilman seuraamuksia?”

    8. 8

      Hyvänä nukkujana pidetty voi kärsiä vakavasta sairaudesta – nämä merkit kielivät, että uni ei ole normaalia

      Tilaajille
    9. 9

      Palvelutalon työntekijä pakotti Alzheimeria sairastavan vanhuksen seksuaaliseen tekoon – Sai 60 päivän ehdollisen tuomion

    10. 10

      Yhdysvalloissa 16 osavaltiota haastoi Trumpin hallinnon oikeuteen hätätilan takia

    11. Näytä lisää
    1. 1

      Hyvänä nukkujana pidetty voi kärsiä vakavasta sairaudesta – nämä merkit kielivät, että uni ei ole normaalia

      Tilaajille
    2. 2

      Saturday Night Live pilkkasi hätätilajulistusta, ja Donald Trump sai tarpeekseen: ”Miten kanavat selviävät tästä ilman seuraamuksia?”

    3. 3

      Espooseen rakennettiin kauppakeskittymä, jonne ei pääse kävellen eikä polkupyörällä – Suojatie johtaa ojaan

    4. 4

      Kukaan ei tiedä, miksi tämä talo on suojeltu – Helsingin valtaväylien puristuksessa pakkohuutokaupataan 100-vuotiasta mökkiä

    5. 5

      Pariskunta luuli ostaneensa 500 neliön omakotitalon Helsingistä, todellinen huoneistoala olikin vain 360 neliötä – Hovioikeus pani pisteen erikoiselle riidalle

    6. 6

      Selvitys paljasti lohduttoman tilanteen: Tuhansien talojen jätevedet valuvat suoraan luontoon Helsingin seudulla

    7. 7

      Opettajat kapinoivat omaa järjestöään vastaan työajan muutoksista – ”Palkka laskee jopa 9 000 euroa vuodessa”

    8. 8

      Monet pojat harrastavat huonoa seksiä, koska eivät kuuntele tyttöjä, sanoo kehutun seksioppaan tehnyt kirjailija

    9. 9

      Suomalaisyhtiö lähti kokeilemaan näkemäänsä markkinarakoa – Amerikkalaiset sijoittajat antoivat 175 miljoonaa euroa

    10. 10

      Sadattuhannet suomalaiset kärsivät pakon­omaisen virtsaamisen tarpeesta, ja ihminen voi myös ehdollistaa itsensä pissahätään – Apu saattaa löytyä elin­tapojen muutoksesta

      Tilaajille
    11. Näytä lisää
    1. 1

      Karski moottoripyörämies lähestyi minua parkkipaikalla eikä jättänyt perääntymiselle tilaa – hetken päästä seisoimme vaiti ja näin, millainen voima piilee eläimessä

    2. 2

      Sofia Pahtela aloitti työt bussikuskina maanantaina ja nousi heti ilmiöksi – Selitys on yksinkertainen

    3. 3

      Lauri Markkasesta voi tulla kaikkien aikojen suomalais­urheilija – HS:n erikois­artikkeli näyttää, mikä tekee nuoresta kori­palloilijasta niin poikkeuksellisen

    4. 4

      Ostaja löi sokkona pöytään voittavan tarjouksen Kivihaan 100-vuotiaasta puutalosta – Kohta alkoi kaduttaa

    5. 5

      ”Olen tehnyt paljon väärää, maannut avio­miesten ja perheen­isien kanssa” – Pienessä suomalais­kaupungissa asuu entinen prostituoitu ja ihmis­kaupan uhri

      Tilaajille
    6. 6

      Teemu ja Sirpa Selänne kohahduttivat ystävyyssäännöllä ja paljastivat erikoisen ilmiön – miehen ja naisen välinen ystävyys ei ole aivan yksinkertaista, kertoi tuhat lukijaa

      Tilaajille
    7. 7

      Oli huippulukio, oli harrastukset, oli liikaa intoa ja liian vähän aikaa – Ja niin Elena Shemyakin mieli hajosi

      Tilaajille
    8. 8

      ”Koen elämäni menneen hukkaan” – Lasten saamista katuvat naiset piilottavat ajatuksensa jopa puolisoiltaan

    9. 9

      Punnerrustesti ennustaa sydänterveyttä – yksinkertaisen testin voi tehdä missä ja koska vain

    10. 10

      Keskellä espoolaista lähiötä on valtava kivilinna, johon kuuluu 200 metriä omaa uimarantaa

    11. Näytä lisää
    Uusimmat
    1. Juuri nyt
    2. Yksi parisuhteen perusharha voi johtaa pahoihin ristiriitoihin
    3. Saudi-Arabian kruununprinssi sai Pakistanissa hurmioituneen vastaanoton, mukana yhdeksän miljardin euron sijoitussalkku
    4. Brittiyhtiö Go-Ahead sai jo jalansijan Oslon junaliikenteessä – Helsingin seudun junakilpailuun yhtiö asennoituu tosissaan
    5. Suvi Pitkänen sai huuliinsa pistoshoidosta kudosvaurion, eivätkä ne palaa koskaan ennalleen – ”Epäonnistuneiden hoitojen tuloksia näkee kadulla aivan liian usein”, sanoo plastiikkakirurgi Tilaajille
    6. Porvoolaiset Holmbergin siskokset ”lukevat” toistensa ajatuksia kahdella kielellä – ja kaukalossa sen kyllä huomaa
    7. Miten joku voi ajatella noin? HS kutsuu vaalien alla erimieliset suomalaiset kohtaamaan kasvokkain, jotta ymmärtäisimme toisiamme
    8. Tunti sitten
    9. Vastapuoli ei ole paha, vaikka olisi eri mieltä – tervetuloa kuplasi ulkopuolelle!
    10. Sirpaloituminen on Euroopan politiikan suuri tarina – se vain voimistuu, koska populismi jyllää ja äänestäjät ovat väsähtäneet Tilaajille
    11. Kuinka paljon kulttuuria pitää tukea? Ekonomistina en pysty määrittämään ”oikeaa” määrää, kansalaisena toivon sen säilyvän ainakin nykytasolla
    12. Putkiremontti ilmaiseksi – Anna-Liisa Kuisman taloyhtiö sai omituisen hyvän tarjouksen, mutta mitä se oikeasti tarkoittaa?
    13. Näytä lisää