Teknologia

Amazonin kasvojentunnistus­ohjelma luuli yhdysvaltalaisia poliitikkoja rikollisiksi – Kokeilimme demoversiota, joka näki Sauli Niinistössä Hollywood-näyttelijän

Kaupallinen kasvojentunnistusohjelma Rekognition löysi Yhdysvaltojen kongressin jäseniä pidätyskuvista. 40 prosenttia virheellisesti tunnistetuista oli tummaihoisia.

Verkkoyhtiö Amazonin perjantaina julkistetun tuloksen mukaan yhtiön voitto ylsi ensi kerran 2 miljardiin dollariin eli 1,7 miljardiin euroon.

Sen sijaan Amazonin kasvojentunnistusohjelma Rekognition saa pyyhkeitä.

Vuonna 2016 kehitetty ohjelma luuli Yhdysvaltojen kongressin jäseniä rikollisiksi, käy ilmi amerikkalaisen kansalaisjärjestön testistä. Yhdysvaltojen kansalaisoikeuksia puolustava Aclu testasi Amazonin kasvojentunnistusohjelmaa syöttämällä siihen kongressin jäsenien valokuvia.

Ohjelma oli tunnistavinaan edustajista 28 pidätyskuvien tietokannasta.

Testi tehtiin samalla ohjelmalla, jota Amazon tarjoaa kaupallisena palveluna asiakkailleen. Aclu-järjestö rakensi sinne tietokannan 25 000:sta julkisesti saatavilla olevasta pidätyskuvasta. Tämän jälkeen se vertasi kongressin jäsenien kuvia pidätyskuvatietokantaan.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Lähes puolet – 40 prosenttia – virheellisesti tunnistetuista oli tummaihoisia. Kongressissa tummaihoisten osuus on kuitenkin todellisuudessa vain viidennes, 20 prosenttia. Ohjelma antoi vääriä tuloksia yhtä lailla demokraattien kuin republikaanienkin edustajista.

Amazon markkinoi Rekognition-kasvojentunnistusteknologiaa aktiivisesti myös viranomaiskäyttöön.

Väärissä käsissä Rekognition-ohjelma voi tehdä pahaa jälkeä.

Aclu kertoi toukokuussa, että esimerkiksi Oregonin osavaltiossa Washingtonin piirikunnassa on rakennettu Amazonin kasvojentunnistusteknologian avulla mobiilisovellus, jolla poliisit voivat skannata minkä tahansa kuvan ja verrata sitä 300 000:sta kasvokuvasta koostuvaan tietokantaan.

Washingtonin piirikunnan poliisi kommentoi marraskuussa Amazonin omassa blogissa, että tehokas tunnistus on nopeuttanut poliisien työtä kentällä. Epäiltyjen tunnistus piirikunnassa lyhentyi Rekognitionin avulla 2–3 päivästä jopa vain minuutteihin.

”Kentällä säästetyt sekunnit voivat pelastaa henkiä”, poliisi sanoo blogin mukaan.

Kuulostaa huolestuttavalta, kun ottaa huomioon, että eri puolilla Yhdysvaltoja poliiseja on syytetty toistuvasti harkitsemattomasta aseenkäytöstä erityisesti mustia kohtaan. Esimerkiksi maaliskuussa Kalifornian Sacramentossa puhkesi katuprotesteja, kun poliisi ampui 20 kertaa aseetonta, mustaa nuorukaista.

Toukokuussa noin 40 kansalaisjärjestöä, Aclu etunenässä, vaati Amazonia olemaan myymättä Rekognitionia viranomaisille.

Amazon kommentoi Aclun viimeisintä testiä huomauttamalla, ettei Aclu ollut ohjelmoinut kasvojentunnistusohjelmistoa antamaan tarkempaa todennäköisyyttä kuin 80 prosenttia. Yhtiö huomautti, että viranomaisilla tunnistamisen todennäköisyyden pitäisi olla säädettynä ainakin 95 prosenttiin.

80 prosenttia on Rekognitionin perusasetus. Sen muuttaminen on käyttäjän vastuulla.

Asiasta kertonut teknologialehti Wired kysyi asiasta myös Orlandon poliisilta. Poliisin tiedottaja ei tiennyt, miten tarkaksi hänen edustamansa laitos on tunnistamisen todennäköisyyden asettanut.

Wired haastatteli Aclun havainnosta Kalifornian yliopiston tutkijaa Joshua Krollia, joka huomautti että kongressiedustajista otettujen korkealaatuisten kasvokuvien pitäisi olla kaikkein helpoin nakki kasvojentunnistusteknologialle. Kenttäolosuhteissa, joita esimerkiksi poliisit kohtaavat, kuvat voivat olla kaukaa otettuja, epätarkkoja tai näyttää ihmisestä vaikkapa pelkän profiilin.

Ongelma on usein se, että teknologiaan luotetaan helposti liikaa. Esimerkiksi vuonna 2014 neljä poliisia piti mustaa naista käsiraudoissa ja osoitti aseella sen aikaa, kun he tarkistivat naisen ajaman auton rekisterinumeroa.

Tämä tapahtui vain, koska automaattinen rekisterikilpien lukemisjärjestelmä oli lukenut rekisterinumeron väärin.

HS testasi Amazonin Rekognitionin demoversiota

Helppokäyttöiseksi tehty kokeilu onnistuu rekisteröitymällä Amazon AWS:n käyttäjäksi. Palvelu ei ole ilmainen, mutta Aclu kertoi oman tietokantatestinsä maksaneen reilut 12 dollaria eli noin kymmenen euroa. Tarkkoja hintatietoja on vaikea antaa, sillä laskutus perustuu hakuihin ja tapahtuu kerran kuukaudessa.

Rekognition vaikuttaa hauskalta: demoversioon on rakennettu oma sovellus julkkisten tunnistamiseen.

Näin se tunnistaa suomalaisia politiikkoja:

Kansanedustaja Silvia Modigin (vas) ohjelma tunnistaa, mutta Tom Packalenia (ps) poliisiunivormussa ei. Toisella yrittämällä Rekognition toteaa Packalenin kasvokuvasta 75 prosentin todennäköisyydellä George W. Bushin veljeksi Neil Bushiksi.

Kuva presidentti Sauli Niinistöstä vuodelta 1987 on 72 prosentin todennäköisyydellä amerikkalainen elokuva- ja tv-näyttelijä Dewey Martin. Martin teki uransa pääsääntöisesti 1950- ja 1960-luvuilla ja näytteli aikansa isoimpien Hollywood-tähtien, kuten Humphrey Bogartin kanssa. Martinin kuvan näet täältä.

Vuonna 2005 otetusta kuvasta Niinistöstä Rekognitionilla ei ole mitään sanottavaa, ja vasta presidentti Niinistön Twitterissä käyttämästä profiilikuvasta ohjelma hoksaa, kenestä on kyse ja antaa todennäköisyydeksi sata prosenttia.


Myös yksittäisten kuvien vertailu onnistuu demoversiolla.

Tämän jutun kirjoittajan oma ylioppilaskuva ja profiilikuva Twitteristä eivät Rekognitionin mukaan olleet sama henkilö. Tämä saattaa johtua siitä, että toisessa kuvassa toimittajan silmillä on aurinkolasit.

Vertaamalla aurinkolasikuvaa toiseen kuvaan, jossa samalla ihmisellä on aurinkolasit mutta katseen suunta eri, Rekognitionin demoversio on jälleen sitä mieltä, että kuvissa ei ole sama ihminen. Vasta kahdesta kasvokuvasta, joissa toimittaja katsoo suoraan kohti, ohjelma tunnistaa ihmisen samaksi 99 prosentin varmuudella.


On syytä muistaa, että demoversio tuskin pystyy puoleenkaan siitä, mihin ohjelma kykenee oikealla konfiguraatiolla ja esimerkiksi suomalaisten itse koostamilla kuvatietokannoilla. Nyt esimerkiksi julkkisten tunnistaminen vaikuttaa tapahtuvan ehdotuksista päätellen lähinnä amerikkalaisia sisältävällä tietokannalla.

Demoversio ei kuitenkaan kannusta tutustumaan Rekognitioniin tarkemmin paitsi leikkimielessä – sen verran heikosti kuvien vertailu tuntuu toimivan.

    Seuraa uutisia tästä aiheesta

  • Teknologia
  • Tekoäly
  • Amazon

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      SAK vetää pois irtisanomisten helpottamista vastustaneen #viimeinenniitti -kampanjan kuvat kovan kritiikin jälkeen

    2. 2

      ”Ihmisroskana” esitetty asunnoton alkoholisti Markku Korhonen ahdistui ja suuttui niin, että teki rikos­ilmoituksen – entinen yrittäjä auttoi pitkään muita, mutta päätyi itse sillan alle

    3. 3

      Teinityttöjen jengi terrorisoi muita nuoria Espoon kauppakeskuksissa – 13-vuotiaan tytön hiukset sytytettiin tuleen, sivustaseuraajat hurrasivat päähän osuneelle potkulle

    4. 4

      Pikkupojan hampaat reikiintyivät ikenen tasolle – äiti tuomittiin ehdolliseen vankeuteen lapsensa hammashoidon laiminlyönnistä

    5. 5

      Rakkaus hiipui muttei kuollut – Näin elvytät väljähtäneen parisuhteen ja rakastut kumppaniisi uudelleen

      Tilaajille
    6. 6

      Emilia Machucan auto hyytyi liikennevaloihin Espoon Olarissa – Muista autoista mulkoiltiin aggressiivisesti, mutta sitten paikalle kaarsi tyttö mopoautolla

    7. 7

      Orpo kehui talouden tilannetta ”erinomaiseksi” mutta myönsi, että käytettävissä olevat tulot alenevat kolmas­osalla suomalaisista – Heinäluoma riemastui myönnytyksestä

    8. 8

      Korruptio-oikeudenkäynnissä todistanut pietarilainen liikemies ammuttiin maantiellä autosta, jossa oli suomalaiset rekisterikilvet

    9. 9

      Uudesta Jokerista julkaistiin ensimmäinen kuva, eikä hahmo näytä yhtään itseltään – kaikkein eniten faneja on silti hämmentänyt Jokerin nimi, johon piiloutuu vitsi

    10. 10

      Kiinalainen super­tähti ja miljonääri on ollut kateissa kesäkuun alusta – se herättää hämmennystä, sillä Fan Bingbing ei ole arka­luontoinen henkilö Kiinan johdolle

    11. Näytä lisää
    1. 1

      ”Ihmisroskana” esitetty asunnoton alkoholisti Markku Korhonen ahdistui ja suuttui niin, että teki rikos­ilmoituksen – entinen yrittäjä auttoi pitkään muita, mutta päätyi itse sillan alle

    2. 2

      Hinausauton kuljettaja saapui työmaalle ja alkoi tuhota silmittömästi henkilöautoa Vantaalla – ”Minä tempaisin siitä asfaltinpalasella toisen sivuikkunan sisälle”

    3. 3

      Kuka tämän suunnitteli? Arvotalon umpiseinään on puhkaistu yksinäinen ikkuna, taustalla ”jännittävä ja traaginen” tarina

    4. 4

      Emilia Machucan auto hyytyi liikennevaloihin Espoon Olarissa – Muista autoista mulkoiltiin aggressiivisesti, mutta sitten paikalle kaarsi tyttö mopoautolla

    5. 5

      Yli kolmasosa aineesta puuttuu – tutkijat löysivät mysteeriin ratkaisun galaksien välisestä avaruudesta

    6. 6

      Jos seksin määrästä tulee suhteessa riitaa, kannattaa katsoa, ovatko muut asiat kunnossa

    7. 7

      Maija Li Raudaskoski löysi teininä oman paikkansa naisvihaa lietsovasta nettiyhteisöstä, kunnes sai tarpeekseen – Nyt hän kertoo, miksi kuvalaudat ovat vaarallisia

    8. 8

      Virpi oli luokan priimus ja lääkäriperheen kultahippu – Hänestä tuli kirurgi, joka leikkasi potilaita lääkehuuruissa ja joutui lopulta vankilaan

      Tilaajille
    9. 9

      Teinityttöjen jengi terrorisoi muita nuoria Espoon kauppakeskuksissa – 13-vuotiaan tytön hiukset sytytettiin tuleen, sivustaseuraajat hurrasivat päähän osuneelle potkulle

    10. 10

      Kammottava näky odotti Rautatientorin käymälässä: Ulostetta, huumeneuloja ja verisiä papereita pitkin poikin

    11. Näytä lisää
    1. 1

      Auschwitziin matkanneet Kallion lukiolaiset kokivat Suomi-häpeää krakovalaisessa juutalaisravintolassa: ”Minun oli pakko mennä kysymään heiltä, että ymmärrättekö te yhtään, mitä teette”

    2. 2

      Mies havahtui hetkeksi hereille vesipuisto Serenassa, mutta jatkoi juhlintaa vielä viikon ympäri Etelä-Suomea – Lopulta mies tajusi rahoittaneensa 10–15 hengen elostelua 12 000 eurolla

    3. 3

      Tytti Peltosen palkka on niin pieni, että se on käytetty kaksi viikkoa ennen tilipäivää – Suomessa on kymmeniätuhansia työssäkäyviä köyhiä

      Tilaajille
    4. 4

      ”Ihmisroskana” esitetty asunnoton alkoholisti Markku Korhonen ahdistui ja suuttui niin, että teki rikos­ilmoituksen – entinen yrittäjä auttoi pitkään muita, mutta päätyi itse sillan alle

    5. 5

      Virpi oli luokan priimus ja lääkäriperheen kultahippu – Hänestä tuli kirurgi, joka leikkasi potilaita lääkehuuruissa ja joutui lopulta vankilaan

      Tilaajille
    6. 6

      Pilapiirros raivoavasta Serena Williamsista tuomitaan rasistiseksi ja vastenmieliseksi – piirtäjä ihmettelee kohua: ”Yhtenä päivänä olet sankari ja toisena hylkiö”

    7. 7

      Helsinkiläisnaisen auto saarrettiin traktorilla Nuuksiossa – ”Espoon sumputtaja” Lucas Heimsch perheineen kertoo nyt, mikä kaupunkilaisten käytöksessä mättää

    8. 8

      Espoolainen oppilas kuoli saatuaan sairaus­kohtauksen liikunta­tunnilla, jolla tehtiin piip-testiä – Testistä on annettu tarkat ohjeet kouluille, sanoo sivistys­toimen johtaja

    9. 9

      Serena Williams -pilapiirroksesta rasismisyytöksiä saanut lehti iskee takaisin kansikuvallaan: ”Tervetuloa poliittisesti korrektiin maailmaan”

    10. 10

      Helsinkiläinen Vera Nevanlinna lähti retkelle syvälle Nuuksioon ja pysäköi autonsa tienlaitaan – Takaisin tullessa autolla odotti espoolainen sumputus

    11. Näytä lisää