Koneen voi myös valjastaa vähentämään syrjintää - Mielipide | HS.fi

Koneen voi myös valjastaa vähentämään syrjintää

Inhimilliset ja tilapäiset seikat vaikuttavat siihen, miten yksittäiset ihmiset tekevät päätöksiä ja mitä he pitävät mielenkiintoisena.

31.12.2021 2:00 | Päivitetty 31.12.2021 6:08

Meillä Hesarissa on ollut jo pidemmän aikaa työkaverina robotti, joka muistuttelee toimitusta kiinnostavista jutuista.

Jaakko-botiksi kutsuttu koneoppimismalli tarkkailee valmiita juttuja ja arvioi, miten kiinnostavia ne ovat. Jos tietyt kriteerit ylittyvät, Jaakko-bot lähettää viestin, että tätä juttua kannattaa nostaa paremmin esiin.

Hesari julkaisee joka päivä runsaasti yli sata juttua. Nopeassa uutissyklissä jokaisen jutun kiinnostavuutta on hankala arvioida aina nappiin. Robotin tarkoitus on auttaa toimitusta siinä, että kaikki tekstit varmasti saavat ansaitsemansa paikan valokeilassa.

Automaattisella päätöksenteolla tarkoitetaan sellaisia yksittäistä ihmistä koskevia päätöksiä, jotka viranomaiset tai yritykset tekevät tilastojen tai hallussaan olevan datan avulla. Esimerkiksi päätöksiä vakuutuksen myöntämisestä tai asuntolainan epäämisestä voidaan ainakin periaatteessa tehdä automaattisesti.

Koneoppimiseen tai muihin algoritmeihin perustuvasta automaattisesta päätöksenteosta on oltu viime vuosina huolissaan. Esimerkiksi tasa-arvovaltuutettu on huomauttanut, että koneen tekemiin päätöksiin voi liittyä syrjintää. Jos arvioinnin perustana käytetään tilastoja, yksilöstä voidaan tehdä sukupuoleen tai alkuperään pohjautuvia päätöksiä, vaikka tällainen on kiellettyä syrjintää.

Automaattinen päätöksenteko kuitenkin tehostaa hallintoa ja parantaa yritysten toimintaa, ja siksi sitä halutaan tehdä. Hallitus myös valmistelee lakia säätelemään alaa.

Vaikka huoli syrjinnästä on aiheellinen, Jaakko-bot on osoittanut myös toisen puolen koneiden tarjoamasta tuesta päätöksenteolle: ne voivat vähentää ennakkoluuloja.

Hesarin juttuja tarkkaileva robotti ei ole huonolla tuulella eikä kiireinen – se ei häiriinny selän takana viisastelevasta toimituspäälliköstä. Inhimilliset ja tilapäiset seikat vaikuttavat siihen, miten yksittäiset ihmiset tekevät päätöksiä ja mitä he pitävät mielenkiintoisena. Siksi Jaakko-botin kaltainen turvaverkko on hyvä olla olemassa, jokapäiväistä työtä helpottamassa.

Asuntolainapäätöksiin, sosiaalituen myöntämiseen, vakuutuspäätöksiin ja moniin muihin liittyy aina riski inhimillisistä virheistä ja myös syrjinnästä.

Esimerkiksi ulkonäkö voi pahimmillaan johtaa vääriin päätöksiin: huijari voi pukeutua pukuun ja kunnollisella perheenisällä olla lävistyksiä ynnä rastat. Kunnolla tehty päätöksenteon apuväline voi huomauttaa, että konkurssissa olevalle pukumiehelle ei kannata antaa lainaa, mutta rastaheppu on pankin pitkäaikainen luotettava asiakas.

Kirjoittaja on HS:n toimituspäällikkö.

Artikkeliin liittyviä aiheita

Luitko jo nämä?

Luetuimmat - Mielipide