Kommentti: Yhdysvaltalainen yritys imuroi somesta kolme miljardia kasvokuvaa ja myi ne poliisille – tapaus kertoo siitä, millaisia haasteita teknologian sääntelyllä on - Politiikka | HS.fi
Politiikka

Kommentti: Yhdysvaltalainen yritys imuroi somesta kolme miljardia kasvokuvaa ja myi ne poliisille – tapaus kertoo siitä, millaisia haasteita teknologian sääntelyllä on

Pienellä tekoälyfirmalla on käsittämättömän suuri tietopankki kasvoistamme, ja se, mitä yhtiöstä tiedetään, osoittaa, miksi tekoälyn tekemä automaattinen kasvojentunnistus tarvitsee pikaisesti sääntelyä.

Tekoälyn ja algoritmien tekemään profilointiin ja tunnistamiseen liittyy valtavasti kysymyksiä ja eettisiä ongelmia. Kuva: Alessandro Bianchi / Reuters

Julkaistu: 22.1. 13:14

Euroopan unionin komissio harkitsee kieltävänsä viideksi vuodeksi tekoälyllä operoivien kasvojentunnistustekniikoiden käytön julkisilla paikoilla. Aikeet kertovat siitä, että kasvojentunnistukseen liittyvät riskit ja lainsäädäntöpuutteet otetaan vakavasti. Saattaa kuitenkin olla, että kasvot menetettiin jo.

Kasvoja kaappasi ja kauppasi esimerkiksi Clearview AI -niminen yhtiö. Se myi ne muun muassa sadoille poliisiviranomaisille, kertoo New York Times -sanomalehti laajassa jutussaan Clearview’sta.

Clearview AI on koodari Hoan Ton-Thatin Yhdysvalloissa toimiva tietotekniikkafirma, jonka nimen AI-kirjainyhdistelmä viittaa tekoälyyn.

Clearview AI napsii verkosta ja sosiaalisesta mediasta ihmisten kasvokuvia ja muodostaa kasvojen optisista piirteistä biometrisillä menetelmillä ja vektorigrafiikalla matemaattisia mallinnuksia, joiden avulla tekoäly voi vertailla eri kasvokuvia ja etsiä niistä yhtäläisyyksiä samasta henkilöstä aiemmin otettuihin kuviin.

Kyse on henkilöiden nopeasta tunnistamisesta kuvien perusteella. Sovellus kertoo myös, missä saman henkilön kuva on aiemmin tullut esiin.

Erittäin kiinnostava yhtiön tarjoama kasvojentunnistuspalvelu on muun muassa siksi, että Clearview’n kasvogalleriassa on yli kolme miljardia kuvaa ja myös tiedot siitä, keiden kasvot ovat kyseessä.

Kuvat Clearview on ottanut Facebookista, Youtubesta, Twitteristä, Instagramista, yritysten sivuilta, uutisportaaleista, mobiilimaksupalvelu Venmosta ja miljoonilta eri verkkosivuilta, New York Times -lehti kertoo. Sovellukseen on kahmittu kaikki sellaiset kuvat, joita ei ole erikseen merkitty yksityisiksi. Niitä on riittänyt.

Kolmen miljardin kasvon kuvapankki on jotain, mitä mikään muu firma tai toimija tuskin on saanut missään muualla kokoon. Ei siis ihme, että yhtiön palvelut kiinnostavat sellaisia tahoja, joilla olisi tarve nopeasti tunnistaa henkilöitä. Asiakkaina on turvallisuusviranomaisia.

Clearview AI itse markkinoi palveluaan erityisesti sillä, että se auttaa ratkaisemaan rikoksia.

New York Timesin mukaan viranomaiset ovat Clearview’n avulla ratkoneet rikoksia identiteettivarkauksista lasten seksuaaliseen hyväksikäyttöön. Lehden mukaan Clearview’tä käyttää yli 600 erilaista poliisiorganisaatiota.

Se, että poliisi ja tiedustelupalvelut käyttävät sovellusta, herättää valtavasti kysymyksiä. Viranomaiset käyttävät palvelua siitä huolimatta, ettei niillä voi olla täyttä luottamusta siihen, kuka on yhtiön takana ja miten sen teknologia toimii.

Yhtiö ei oma-aloitteisesti avaa toimintaansa juuri mitenkään, ja sen osoite New Yorkissa Manhattanilla osoittautui tekaistuksi.

Kun New York Timesin toimittaja Kashmir Hill selvitteli Clearview AI:n ja Hoan Ton-Thatin taustoja, kävi ilmi, että toimittajan yhteydenottojen perusteella yhtiöstä oli otettu yhteyttä appia Hillin pyynnöstä käyttäviin viranomaisiin.

Hill päättelee tietojensa perusteella, että Clearview pystyy hyvin seuraamaan, keistä ja millaisia hakuja sovelluksen käyttäjät kuten vaikkapa tiedustelupalvelut tai poliittiset toimijat tekevät.

Tämä informaatio on arvokasta, niin oikeissa kuin väärissä käsissä.

Tekoälyn ja algoritmien tekemään profilointiin ja tunnistamiseen liittyy valtavasti kysymyksiä ja eettisiä ongelmia. Niistä varsinkaan tiedustelupalvelujen kaltaiset toimijat eivät avaa keskustelua.

Myös poliitikkojen on vaikea sanoa ääneen, ettei yksityisyyttä enää ole.

Kun on kuvassa, tulee tunnistetuksi, oli sitten mielenosoituksessa, treffeillä, ostoksilla, lomamatkalla tai hämärissä puuhissa.

Kun loggautuu palveluun, paikantuu. Digitaalisia jälkiään on vaikea peittää. On vaikea tietää, mitä verkosta ja sosiaalisen median palveluista ei näe, kun valinnat tekee algoritmi.

Digiajan sääntelyn kuuluisi olla osa perusoikeuksiamme. Clearview AI – ja mahdollisesti monet muutkin palvelut – käyttävät kasvojamme ilman, että suurin osa meistä sitä ymmärtää. Kellä tahansa yhtiön appin käyttäjällä on mahdollisuus tunnistaa miltei kenet tahansa ja vaikka kiristää tällä tiedolla.

Tekoälyn kehitys on vallankumouksellista – ja Clearview AI osa vallankumousten sarjaa, vaikka joku kutsuisikin sitä vain kasvontunnistuksen Googleksi.

Se, että myös ihan tavalliset kuluttajat ja kansalaiset kuulevat ja ymmärtävät, mitä teknologian kehitys todella tuo tullessaan, on hyvin tärkeää. Kyse on kansalaisoikeuksista. Suuren yleisön tietoon tosiasia lävähti, kun kävi ilmi, miten konsulttiyhtiö Cambridge Analytica hankki ja käytti Facebookin käyttäjien tietoja ilman lupaa profiloidakseen ihmisiä poliittisesti. Facebookilla on kaksi miljardia käyttäjää.

New York Timesin selvitys Clearview AI:sta vauhdittaa toivottavasti entisestään tärkeää keskustelua tekoälyn käytön sääntelystä.

Tekoälyn väärinkäytön mahdollisuudet ovat miltei rajattomat. Teknologiaa ei yksin voi syyttää väärinkäytöksistä, vaan mikä tahansa teknologia tarvitsee sääntelyn määräämään, missä kulkevat laillisen ja laittoman rajat.

Julkisilla paikoilla tapahtuva kasvojentunnistus aiotaan kieltää väliaikaisesti – sääntely vaikeaa, liikaa riskejä