Addiktion algoritmi

Piilaakson pioneeri Jaron Lanier kertoo, miten Facebook ja Google ovat ottaneet mielemme ja yhteiskuntamme valtaansa käyttäytymisen muokkauksella.

Ne ovat maailman tarkimmin suojeltuja salaisuuksia. Ne ovat luoneet kahden maailman arvokkaimpiin kuuluvan yhtiön varallisuuden. Ne ovat kovaa vauhtia viemässä vapaan tahtomme ja onnellisuutemme sekä kykymme empatiaan. Ne ovat hävittämässä totuuden ja tekemässä politiikasta mahdotonta. Lopulta, ne vievät myös sielumme.

Ne ovat Facebookin ja Googlen keskeiset algoritmit.

CIA:n ja NSA:n salaisimpia tietoja vuodetaan toistuvasti verkon pimeille sivukujille, mutta näitä kruununjalokiviä ei ole koskaan murrettu. Ne ovat luoneet uudenlaisen markkinoinnin muodon, joka on silkkaa manipulaatiota. Niiden ainoa tehtävä on muokata käyttäytymistämme.

Tällaisen kuvan sosiaalisesta mediasta, ennen kaikkea Facebookista, piirtää Piilaakson pioneeri Jaron Lanier. Hän esittelee sosiaalisen median aiheuttamia valtavia ongelmia kirjassaan Ten Arguments For Deleting Your Social Media Accounts Right Now (Henry Holt & Co, 2018). Se on poleeminen kritiikki sosiaalista mediaa ja sen keskeisen liiketoimintamallin seurauksia kohtaan.

Lanier kutsuu Facebookin ja Googlen bisnesmallia käyttäytymisen muokkaamiseksi, mikä on paljon syvempää manipulaatiota kuin perinteinen mainostaminen.

Sosisaalisen median haitallisesta vaikutuksesta puhutaan nyt paljon. Lanier tuo keskusteluun tärkeän äänen. Häntä kannattaa myös kuunnella, sillä hän tietää mistä puhuu. Lanier oli rakentamassa 1980-1990-luvuilla internetin perusteita. Hän on esimerkiksi keksinyt termin virtual reality eli virtuaalitodellisuus. Lanier on joutunut seuraamaan, miten hänen ja kollegojensa idealismi on hukattu, ja heidän vapautuksen välineeksi kehittämänsä internet on peittynyt sosiaalisen median myrkyllisellä kuorrutuksella. Hän on puhunut sosiaalisen median haitallisuudesta jo vuosikausia.

Lanier onnistuu silti välttämään katkeran nostalgian tai ainakin kanavoi sen kirjassaan analyyttiseksi aforistisuudeksi. Lanierin ensimmäinen argumentti on oikeastaan tärkein. Sosiaalinen media vie vapaan tahtomme.

Sosiaalisen median keskeinen toimintamekanismi on riippuvuuden rakentaminen. Piilaakson slangissa riippuvuudelle vain on keksitty trendikäs nimi, ”engagement”. Suomessakin jokainen digitaalisen kehityksen kanssa työskennellyt on kuullut, kuinka tärkeää on ”lisätä enkeitsmenttiä”. Englanninkielinen sana tarkoittaa osallistumista ja sitoutumista johonkin itselleen tärkeään. Tämän ei pidä antaa huijata, sanoo Lanier. Esimerkiksi Facebookin algoritmit on suunniteltu täsmälleen yhtä tehtävää varten: maksimoimaan se aika, minkä käytämme niiden parissa.

Siinä algoritmit onnistuvat parhaiten tekemällä meistä riippuvaisia.

Facebookin suunnittelijat tiesivät täsmälleen mitä olivat tekemässä. Viime vuosina lukuisat Facebookin perustajista ja alkuvaiheen vaikuttajista ovat tulleen katumapäälle ja kertoneet tekemistään häikäilemättömistä ratkaisuista. Napsterillä rikastunut Sean Parker, Facebookin ensimmäinen johtaja, on tunnustanut kuinka hän ja Mark Zuckerberg täysin tietoisesti hyväksikäyttivät ihmisten psykologista heikkoutta. He rakensivat Facebookista addiktiojärjestelmän, joka perustuu käyttäjille annosteltaviin ”dopamiinihitteihin”. Myös Facebookin entisen johtajan Chamath Palihapitiyan mukaan he rakensivat ”dopamiinilla toimivan feedback-loopin”.

Dopamiini on aivojen välittäjäaine, joka liittyy nautinnon tavoitteluun ja motivaatioon ja sitä kautta myös riippuvuuteen. Riippuvuuden mekanismeja ei tunneta täysin. Se tiedetään, että dopamiinilla on siinä iso rooli.

Justin Rosenstein, joka keksi Facebookin tykkäys-nappulan, on sittemmin kutsunut tykkäyksiä keinotekoiseksi nautinnoksi. Nyt hän kehittää ohjelmistoja, jotka auttavat meitä käyttämään aikaamme järkevämmin.

Olennaista ei ole nautinto sinällään, vaan nautinnon odotus. Kyse ei siis niinkään ole siitä, että nautimme katsoessamme videota, jolla Lauri Markkanen naurattaa amerikkalaisia sanomalla ”jäätelötötterö”. Kyse ei edes ole siitä, että nautimme jos kuvistamme tai päivityksistämme pidetään ja niitä jaetaan. Kyse on siitä jännityksen tunteesta, jonka koemme kun avaamme Facebookin ja odotamme näkevämme jotain uutta ja jännittävää, ja saamme pienen nautinnon hetken. Jos sitä ei ala kuulua, päivitämme sivua uudelleen ja uudelleen.

Tulemme riippuvaiseksi juuri tästä odotuksesta.

Yksi historian tunnetuimmista eläinkokeista tehtiin Yhdysvalloissa 1950-luvulla. Se oli rottakoe ja looginen jatke Pavlovin kuuluisalle koirakokeelle, jossa koira saatiin kuolaamaan jo ruoka-aikaan soitettavan kellon äänestä.

Kokeessa rotat saatiin painamaan loputtomasti vipua, joka tuotti sen aivoille sähköisesti mielihyvää. Rotta ei välittänyt ruoasta, vedestä, lisääntymisestä tai edes kivusta päästäkseen painamaan vipua. Nyt yli kaksi miljardia ihmistä painaa loputtomasti tykkää-nappulaa ja päivittää selaimiaan dopamiinin toivossa.

Tähän pakkomielteiseen toimintaan meidät ajaa algoritmi, joka asettuu silmukkaan aivojemme kanssa.

Katsotaan ensin, mikä on algoritmi.

Algoritmi selitetään usein käyttämällä esimerkkinä ruokareseptiä. Resepti on ohje, jonka vaiheita seuraamalla tuloksena on ruokalaji. Yleensä algoritmilla tarkoitetaan laskutoimituksia, joiden perusteella tehdään päätöksiä tai ratkaistaan ongelmia. Tietokoneohjelmat ovat käytännössä sarja algoritmeja. Algoritmeja on kaikkialla ja niistä on tullut yleinen tapa hahmottaa maailmaa ympärillämme, jopa elämää. Yuval Noah Harari kutsuukin teoksessaan Homo Deus algoritmiä aikamme tärkeimmäksi käsitteeksi.

Mitä Facebookin ja Googlen algoritmit sitten oikein tekevät?

Ensinnäkin, ne seuraavat kaikkea mitä teemme verkossa, mitä klikkaamme, mistä tykkäämme, mihin pysähdymme, minkä ohitamme. Sen jälkeen algoritmi vertaa toimintaamme toisten käyttäjien toimintaan. Tämän pohjalta se ennustaa paitsi sen, mitä todennäköisesti teemme seuraavaksi, myös sen, mikä todennäköisesti on mielialamme juuri nyt. Näin algoritmi päätyy ratkaisuun siitä, milloin on paras aika tarjota meille mitäkin sisältöä.

Algoritmi on häkellyttävän tehokas, jos olemme käyttäneet riittävän paljon Facebookia. Vuonna 2015 julkaistussa, kymmeniä tuhansia ihmisiä käsittäneessä tutkimuksessa, Facebookin algoritmi ennusti 300 tykkäyksen perusteella yksittäisen ihmisten valintoja paremmin kuin heidän puolisonsa. Parhaimmillaan algoritmi ennustaa ihmisten valintoja paremmin kuin he itse. Aivomme ovat yksioikoisempia kuin mielemme. Aivomme ohjaavat toimintaamme ilman, että olemme välttämättä siitä tietoisia.

Lanierin mukaan Googlen ja Facebookin algoritmien oveluus on siinä, etteivät ne oleta meidän olevan vain rottia. Ne tarjoavat meille paitsi porkkanaa, myös sopivasti keppiä. Sosiaalinen media rankaisee meitä jatkuvasti. Tunnemme pettymystä, kateutta, huonoa itsetuntoa, katkeruutta, ärtymystä ja jopa vihaa. Nämä kaikki ovat erinomaisia tunteita lisäämään sitoutumista. Näemme sisältöä, jonka tarkoitus on saada meidät reagoimaan, positiivisesti tai negatiivisesti. Tasapaino näiden välillä on olennaista. Meitä koukuttaa kaikkein eniten epävarmuus siitä, kumpaa saamme, keppiä vai porkkanaa, se odotuksen tunne.

 

Ei kuitenkaan kannata punoa salaliittoteorioita ilkeistä miljardöörineroista. Kyse on algoritmista

Tämän epävarmuuden luomiseksi algoritmeihin ohjelmoidaan aina mukaan satunnaisuutta, sopivasti ennustettua ennustamattomuutta. Jos olemme tottuneet aina saamaan tietystä toiminnasta palkkion, mutta joku kerta saammekin rangaistuksen, kiinnostumme. Aivomme alkavat käsitellä tilannetta ymmärtääkseen, mitä pitää tehdä toisin, jotta saisimme palkkion. Tämä on sama periaate, joka saa meidät kiinnostumaan tarinoista, joissa on yllätyksiä ja arvoituksia. Nautimme niistä.

Juuri tässä syntyy addiktion aiheuttava silmukka.

Yhdessä päässä on algoritmi, joka on yritetty ohjelmoida manipuloimaan aivojamme kiinnostumaan sen tarjoamasta sisällöstä. Silmukan toisessa päässä aivomme etsivät järjestelmän salaisuutta, sen toimintaperiaatetta - miksi palkinto, miksi rangaistus? Facebook ja Google hyödyntävät tätä aivojen toimintaperiaatetta ja soveltavat siihen kaikkein kehittyneintä tilastomatematiikkaa ja syvimpiä koneoppimiseen perustuvia laskentamalleja. ”Se on puhdasta kissa ja hiiri -leikkiä, joka perustuu täysin matematiikalle”, Lanier sanoo.

Mitä jos algoritmi tarjoaa meille mainosta urheilukengistä sen jälkeen, kun olemme katsoneet videon Lauri Markkasesta sanomassa ”jäätelötötterö”?

Algoritmi saattaisi Lanierin tarjoaman esimerkin mukaan kokeilla tarjota mainosta noin viisi sekuntia videon katselun jälkeen.

Sitten se testaisi mitä tapahtuu, jos aika muutetaan viidestä sekunnista 4,5 sekuntiin.

Sitten se testaisi mainoksen näyttämistä 5,5 sekunnin päästä.

Päätöksemme pysähtyä mainoksen kohdalle, ohittaa se kokonaan, klikata, minkä hyvänsä valitsemamme toimintatavan tulokset vaikuttavat välittömästi tuhansien muiden käyttäjien näkymään ympäri maailman.

Pyöriessään viiden sekunnin ympärillä algoritmiin ohjelmoitu satunnaistekijä voi yllättäen kokeilla kahden tai seitsemän sekunnin aikaväliä. Jos jompikumpi antaa paremman tuloksen, algoritmi oppii siitä.

Ansa on siinä, että kun juoksemme algoritmin perässä, aivomme yrittävät sopeutua johonkin, mitä todellisuudessa ei ole olemassa. Satunnaisuuden takana ei ole mitään järjestelmää. Jahtaamme harhakuvaa, joka koko ajan pakenee meiltä. Koemme vain onnistumisen ja epäonnistumisen huumaavan vaihtelun.

Tässä ei ole enää mitään eroa uhkapeliriippuvuuteen.

Uhkapeliaddikti tulee riippuvaiseksi pettymyksen ja voiton aiheuttamien mielentilojen vaihtelusta ja mahdollisen voiton odotuksen tunteesta. Sosiaalisen median jättiläiset ovat kopioineet ihmisaivojen ja matematiikan välisen kohtaamisen periaatteet juuri internetin uhkapelisivuilta. Se ei sinällään ole yllättävää, mutta todennäköisesti kovin moni Facebookin käyttäjä ei tätä tiedä. Tuloksena me yli kaksi miljardia ihmistä tuijotamme ruutujamme ja vedämme virtuaalista yksikätistä päivittääksemme Facebookin uutisvirran kerta toisensa jälkeen, kuin rotat laboratoriossa. Jos se tällä kertaa tekisikin minut onnelliseksi?

Se ei koskaan onnistu.

Lanier viittaa lukuisiin tutkimuksiin, joiden mukaan sosiaalinen media tekee meistä surullisempia ja onnettomampia. Moni toki saa Facebookista iloa, yhteenkuuluvuutta ja jopa tukea. Mutta pidemmällä aikavälillä tarkasteltuna näyttää siltä, että sosiaalinen media ei paranna elämäämme, päinvastoin.

Mutta se on hiton hyvää bisnestä. Lanierin kirjan omaperäisin oivallus on hänen tapansa määritellä Facebookin ja Googlen liiketoimintamalli käyttäytymisen muokkaukseksi. Lanierin mukaan on virhe kutsua niiden liiketoimintaa mainosten myymiseksi. Niiden bisneksessä on kyse käyttäytymisen muokkauksesta. Ne myyvät asiakkailleen lupausta siitä, että ne muuttavat käyttäjiensä, eli meidän, käyttäytymistä asiakkaidensa toiveiden mukaisesti.

Sosiaalisessa mediassa mainonta on muuttunut ratkaisevalla tavalla. Hyvä vertailukohta on perinteinen tv-mainos. Se lähetetään ennalta määrättyyn aikaan samanlaisena kaikille tv-ohjelman katsojille. Mainoksen tekijöillä on 30 sekuntia aikaa pitää myyntipuhe tuotteesta. Facebookissa sen sijaan meitä tarkkaillaan joka hetki ja meille syötetään ärsykkeitä, jotka mukautuvat jatkuvasti toimintaamme, joka taas muuttuu mainosten myötä. Tästä syntyy toinen silmukka. Vanhanaikaisessa mainostamisessa tuloksia mitattiin sen mukaan, miten tuote myi. Nyt mitataan, miten kuluttajan käyttäytyminen muuttuu. Se näkyy välittömästi, kuten Markkasen jäätelövideon ja urheilukenkien esimerkissä.

Moni meistä on jo ymmärtänyt, että jos palvelu on ilmainen, me olemme tuote. Mutta me emme ole enää tuote siinä jokseenkin passiivisessa mielessä, että olemme silmäpareja, joille tarjotaan mainoksia.


Sosiaalisessa mediassa me olemme tuotteita, koska meidän käyttäytymisemme luvataan muuttuvan ja tämä muutos voidaan mitata tarkasti ja sen perusteella muuttaa meitä koko ajan uudelleen ja uudelleen.

Malli toimii. Mikään algoritmi ei ole täysin varma yksittäistapauksissa. Kukaan ei voi ennustaa, miten reagoimme kenkämainokseen. Mutta - ja tässä on liiketoimintamallin avain - kun mainos näytetään riittävän suurelle joukolle käyttäjiä, tilastollinen todennäköisyys sille, kuinka moni käyttäjä klikkaa mainosta, pystytään ennustamaan riittävän tarkasti. Toiseksi, Facebookin liiketoiminta ei perustu klikkauksille, vaan näytöille. Olennaista on, kuinka moni näkee mainoksen.

Sosiaalisen median jättiläisten yhteisöllisyyden julkisivun takana on raaka logiikka. Lanierin mukaan Piilaaksossa kaikki on mahdollista, paitsi tämän uskonkappaleen kyseenalaistaminen: ”Ainoa tapa rahoittaa yhteys kahden ihmisen välillä on kolmannen osapuolen kautta, joka maksaa molempien manipuloimisesta.”

Facebookin ja Googlen asiakkaita, siis yhtiöitä jotka ostavat niiltä mainoksia, on Lanierin mielestä siksi virheellistä kutsua mainostajiksi. Hän kutsuu niitä manipuloijiksi. Ne vuokraavat näiltä yhtiöiltä ”käyttäytymisen muokkauksen imperiumeja”. Ja me olemme imperiumin kansalaisia.

Tämä kuulostaa jo totalitarismilta. Sitä se onkin. Lanier puhuu kyberneettisestä totalitarismista.

Kiinan ulkopuolella on kaksi yhtiötä, joiden toiminta perustuu täysin käyttäjien käyttäytymisen muokkaamiselle, Facebook ja Google, tai paremminkin sen omistaja Alphabet. Muut kolme viidestä jättiläisestä eli Apple, Amazon ja Microsoft käyttävät tätä liiketoimintamallia joskus. Lanier itse työskentelee Microsoftilla.

Internetin piti vapauttaa meidät ja tehdä maailmasta demokraattisempi. Miten tähän tilanteeseen on tultu?

 

Emme ole enää tuote siinä jokseenkin passiivisessa mielessä, että olemme silmäpareja

Muutos on ollut käsittämätön, suorastaan historiallinen, sekä nopeudessaan että suuruudessaan. Facebook perustettiin vuonna 2004. Yhtiö pääsi ensimmäisen kerran voitolle 2009. Palvelulla oli silloin 300 miljoonaa käyttäjää. Tämän vuoden alussa sillä oli 2,2 miljardia käyttäjää ja viime vuonna se teki voittoa 16 miljardia dollaria.

Vertauskohtana, koko Suomen valtion budjetti tänä vuonna on dollareissa noin 65 miljardia.

Facebook on kasvanut nopeammin kuin mikään teknologinen sovellus ihmiskunnan historiassa, tulesta internetiin. Sähkö, vesijohdot, hehkulamput, puhelimet, tietokoneet – minkään niistä käyttö ei ole levinnyt yhtä räjähdysmäisesti kuin Facebookin. Google taas on osa internetin perusarkkitehtuuria tavalla, joka tuntuu mahdottomalta enää purkaa.

Varallisuus keskittyy yhä voimakkaammin suurimmille internetin toimintaa hyödyntäville yhtiöille.

Teknologiabisnes on Yhdysvalloissa pitkälti viiden jättiläisen hallussa. Niiden yhteisarvo alkaa lähennellä jo neljää biljoonaa dollaria (englanniksi trillion).


Paradoksaalisesti, kaiken taustalla on Lanierin tapaisten internetin uranuurtajien ihanteet ja ideologia.

Internetin alkuperäiset suunnittelijat olivat paitsi ohjelmoijia, myös hippejä, joiden tunnuslause oli ”informaatio haluaa olla vapaata”. Ironisesti englanninkielinen sana ”free” tarkoittaa sekä vapautta että ilmaisuutta. Lähes kaikkialle levittynyt digitaalinen tietoverkko rakennettiin kahdelle periaatteelle, ilmaisuudelle ja nimettömyydelle.

Ajatus oli oikea. He ymmärsivät, että kaikki tulee aikanaan rakentumaan ohjelmointikoodin päälle, joten paras vaihtoehto on, jos kukaan ei omista koodia. Vapaan lähdekoodin liike syntyi ja internet rakennettiin sen tekemien ohjelmistojen päälle. Internetistä tehtiin nimetön verkko, jossa vain siihen yhteydessä olevat koneet olivat tunnistettavissa.

Ilmaisuudella oli kääntöpuolensa. Alustojen ylläpitäminen vaati rahaa. Mainostaminen oli ainoa bisnesmalli, joka sopi ilmaisuuteen.

Vielä 2009 Wiredin päätoimittaja Chris Anderson kirjoitti kirjassaan Free, kuinka internet oli kadottanut markkinoilta valtavia määriä rahaa. Paras esimerkki oli miljoonien arvoinen tietosanakirjakustantaminen, jonka ilmainen Wikipedia korvasi kokonaan. Vielä 2009 näytti siltä, että vain internetin sen ajan ainoa jättiläinen Google hyötyisi ilmaisuudesta. Facebookin nousun alku osuu juuri samaan vuoteen. Facebookin bisnesmalli käytti hyväkseen paitsi ilmaisuutta, myös nimettömyyttä. Lanier tunnustaa, että hän ja muut internetin kehittäjät eivät lainkaan ymmärtäneet, että nimettömässä internetissä ihmisten yhdistämisestä kasvaisi yksi planeetan suurimmista bisneksistä, joka johtaisi lopulta jättiläismäisiin datamonopoleihin.

 

Facebookin ja Googlen asiakkaina olemme tahtomattamme osa projektia, jossa hurahtaneet insinöörit uskovat rakentavansa omaa jumalaansa

Miljardien tulojen takana on ikävä totuus. Rahaa tehdään ennen kaikkea negatiivisilla tunteilla. Närkästys ja viha lisäävät engagementia tehokkaammin kuin ilo ja rakkaus. Negatiivisen palautteen tai kommentin antamiseen tuntuu olevan paljon matalampi kynnys kuin positiivisen. Ikävät tunteet, kuten pettymys ja viha, syttyvät aivoissa positiivisia nopeammin ja usein kestävät pidempään.

Kyllä, teknologia näyttäisi suosivan tyranniaa.

Ei kuitenkaan kannata punoa salaliittoteorioita ilkeistä miljardöörineroista. Kyse on algoritmista, joka vain mittaa sitoutumista. Sitoutumisella ei ole sisältöä, se on vain muoto. Algoritmille inhimilliset tunteet kuten onnellisuus ovat vain samanarvoisia optimointisignaaleja kuin brändiuskollisuus – sitä lisää. Osallistumisessa ei ole mitään ideologista, eettistä tai tunteellista sisältöä ja juuri siksi se kääntyy aina kohti negatiivista, koska negatiivinen on kaupallisesti helpoin ja tehokkain vaihtoehto.

Mutta algoritmihan tekee vain sen, mitä se on ohjelmoitu tekemään? Kaiken takana on aina ihminen - eikö olekin?

Ei ole.

Lanierin teoksen yksi hätkähdyttävimmistä väitteistä on, että kukaan ei tiedä tarkalleen, miten algoritmit toimivat. Ei edes Mark Zuckerberg. Algoritmien kontrolloimattomuus on Lanierin mukaan yksi Piilaakson salaisuuksista, ainakin suurelle yleisölle. Alalla tiedetään, että keisarilla ei ole vaatteita. Koneoppimiseen perustuvat järjestelmät ovat niin monimutkaisia, etteivät järjestelmän kehittäjätkään pysty sanomaan, miksi esimerkiksi itseohjaava auto on päätynyt johonkin yksittäiseen ratkaisuun.

Meidän täytyy vain luottaa järjestelmään. Tämän seurauksena jotkut vain ovat parempia saamaan koneoppimiseen perustuvat mallit toimimaan kuin toiset, eikä kukaan oikein tiedä miksi. Niiden hallinnoimisen pitäisi olla täysin mekanistista, mutta se onkin paljastunut intuitiiviseksi taiteeksi. Nämä mielten manipuloimisen taiteilijat tienaavat tähtitieteellisiä summia.

Prosessi on hädin tuskin hallinnassa. Viheliäisessä tilanteessamme on jotain oikeasti kontrolloimatonta. Kuten Hararikin on sanonut, algoritmi on kuningas, mutta Lanierin mukaan kuningas on sokea. Negatiivinen kehitys on tapahtunut pitkälti vahingossa, koska yhtiöissä on luotettu niin täysin algoritmien toimintaan.

Internetin alkuaikojen yksi olennainen ihanne oli läpinäkyvyys. Netin toivottiin tuovan uudenlaisen läpinäkyvyyden ajan, joka edistäisi demokratiaa. Kävikin päinvastoin.

Vaikka luulemme olevamme Facebookin kautta yhteydessä toisiin ihmisiin, emme todellisuudessa enää tavoita heitä. Emme tiedä, mitä he kokevat. Emme enää jaa yhteistä sosiaalista maailmaa, joka auttaisi hahmottamaan erojamme ja yhtäläisyyksiämme. Lanier tekee ajatuskokeen, ”Mitä jos Wikipedia näyttäisi erilaisia versioita sivuistaan henkilöstä kootun salaisen dataprofiilin perusteella?” Kun käytämme sosiaalista mediaa tiedonlähteenä, kuten hämmästyttävän monet muuten kriittisiltä vaikuttavat ihmiset koko ajan tekevät, juuri näin tapahtuu.

Läpinäkyvyyden sijaan olemme saaneet kaksinkertaisen hämäryyden. Jaettu todellisuus hämärtyy, kun jokainen meistä näkee näiden palveluiden kautta algoritmien meille valikoiman henkilökohtaisen todellisuuden. Toisen tason hämäryys tulee siitä, että emme edes tiedä kuinka erilainen toisten todellisuus on. Hämäryyden määrä on itsessään hämärtynyt.

Tämä on todennäköisesti osaltaan vaikuttanut siihen, miten Yhdysvaltojen poliittinen kenttä on jakautunut yhä selkeämmin kahteen leiriin.

Me menetämme kokemuksen siitä, että olemme samanlaisia ihmisiä, kun emme ole fyysisesti läsnä samassa tilassa. Samanlaisuutemme häviää taustalle ja eromme täsmentyvät.

Lanierin sanoin, sosiaalinen media tekee meistä kusipäitä.

Tämä on hänelle henkilökohtaisella tasolla kirjan argumenteista tärkein. Kuten hän sanoo:”En halua olla kusipää.”

Trollit ovat internetin häiriköitä, ikäviä vandaaleja ja nykyisin myös masinoituja digiajan terroristeja. Heidän tarkoituksensa on aiheuttaa suuttumusta, pelkoa, vastakkainasetteluja ja yleistä epäjärjestystä. Lanier sanoo, että meillä jokaisella on sisäinen trollimme, ja on valitettavasti oikeassa. Jokaisesta meistä löytyy helposti ärsyyntyvä, omahyväinen, narsistinen kusipää, jos oikein kaivetaan. Sosiaalinen media osaa kaivaa.

Lanier kertoo tunnistaneensa oman sisäisen mörkönsä jo 1970-luvulla ensimmäisillä keskustelualustoilla. Hän huomasi kiihtyvänsä suhteettoman paljon hyvin pienistä asioista. Hän itse on ottanut linjakseen pysyä poissa palveluista, joissa hän kokee oman negatiivisuutensa korostuvan, sellaisista jotka tekevät vaikeammaksi olla niin ystävällinen ihminen, kuin hän haluaa olla.

Negatiivisuutta esiin nostava sosiaalinen media on myös vaikuttanut osaltaan poliittiseen keskustelukulttuuriin ja politiikan tekemiseen. Siihen liittyy myös toinen keskeinen ongelma, kontekstin katoaminen. Jokainen viesti tarvitsee aina kontekstin, jotta se ymmärrettäisiin. Sosiaalisessa mediassa kommunikaatio menettää kontekstinsa. Vain kaikkein äänekkäimmät viestit kestävät koko ajan muuttuvassa kontekstissa hetkeä pidempään. Toisin sanoen, vain kusipääkommunikaatio, sen narsistisen sisäisen trollin huuto kaikuu kovimpaa ja kauimmin.

Emme pysty itse päättämään tai edes arvioimaan viestiemme kontekstia. Konteksti asetetaan jälkikäteen, jonkun muun toimesta ja jonkun muun voitoksi. Tämä on mahdollistanut esimerkiksi sen, miten väkivaltaisesti naisten ja tyttöjen viestejä revitään irti kontekstistaan ja sukupuolitetaan ja halveksitaan. Ongelmat kärjistyivät gamergatessa.

Black Lives Matter -kampanja on erinomainen ja ikävä esimerkki siitä, miten sosiaalinen media vääristää ja tuhoaa keskustelun korostamalla negatiivisuutta ja nostamalla esiin keinotekoisia feikkiprofiileja. Kampanja alkoi, kun Yhdysvalloissa oli useita tapauksia, joissa poliisi ampui aseettoman mustaihoisen. Sosiaalinen media levitti tietoisuutta ja kampanjan viestiä. Henki oli aluksi rakentava ja yhteisöllinen. Mustat aktivistit saivat äänensä uudella tavalla kuuluviin.

Samaan aikaan algoritmit luokittelivat aktivisteja ja heidän kannattajiaan. Mikä heitä innosti, mikä ärsytti? Minkälaiset videot ja tarinat saivat heidät pysymään palvelussa? Mikä saisi heidät alttiiksi käyttäytymisen muokkaukselle? Algoritmi teki laskutoimituksensa ja tulos oli, että rasistiset viestit toimisivat parhaiten. Pieni joukko valkoisen ylivallan kannattajia sai yhtäkkiä uudenlaista näkyvyyttä. Tämä lisäsi heidän yhteenkuuluvuuttaan ja toi heille uudenlaista joukkovoimaa.

Kolmannessa vaiheessa kuvaan astuivat venäläiset. Facebook, Twitter ja muut palvelut osasivat tarjota asiakkailleen - siis käyttäytymisen manipuloijille - kampanjan jakolinjojen mukaan aktivoituneita yleisöjä. Venäläisten toimijoiden on monessa yhteydessä nähty pyrkivän ennen kaikkea provosoimaan ja kärjistämään keskustelua. Venäläiset toimijat olivat ilmeisesti esimerkiksi Yhdysvaltojen presidentinvaalien aikana aktiivisen Blacktivist-tilin takana.

Tässä nähdään bisneksen ja politiikan uudenlainen liitto. Käyttäytymisen muokkausta myyvät yhtiöt tienaavat enemmän, kun ihmiset ovat ärsyyntyneitä, pakkomielteisiä, jakautuneita ja vihaisia. Se taas sopii täydellisesti Venäjän ulkopoliittisiin intresseihin epävakauden lisäämisestä.

Algoritmit ovat aikamme totuus, kuten Harari sanoo. Meidän on luotettava ja uskottava algoritmeihin, vaikka näemme jo nyt niiden haitallisuuden. Cathy O’Neil kirjoittaa teoksessaan Matikkatuhoaseet (Weapons of Math Destruction) vaaroista, joita seuraa, kun kaupallisesti kehitetyt algoritmit alkavat vaikuttaa mielipiteisiin ja poliittiseen päätöksentekoon. ”Hype suuraineiston ympärillä on täysin perusteeton. Algoritmeja on markkinoitu matemaatikoille ja yleisölle tosina, objektiivisina ja reiluina”, sanoo O’Neil. Täältä voit lukea HS:n tiedetoimittajan Timo Paukun arvion O’Neilin kirjasta.

Mitä me voimme sitten tehdä?

Lanierin vastaus on yksinkertainen. Pakottaa Google ja Facebook luopumaan liiketoimintamallista, josta ne ovat täysin riippuvaisia.

Ratkaisu on tehdä sosiaalisesta mediasta maksullista. ”En hanki tiliä Facebookiin, Googleen tai Twitteriin ellen voi maksaa siitä – ja yksiselitteisesti määrittää hinnan datani käytölle”, Lanier linjaa. Niin kauan kuin tämä ei ole mahdollista, meidän tulisi käyttää vain digitaalisia palveluita, jotka eivät perustu tälle liiketoimintamallille.

Tällainen ratkaisu tuntuu utopialta, mikä itsessään on järkyttävä oivallus. Varsinkin Facebook on kietonut lonkeronsa niin syvälle kaiken vuorovaikutuksemme juurien ympärille, että ajatus ilman sitä elämisestä tuntuu siltä kuin repisimme juuremme maailmasta ja leikkaisimme osan itsestämme irti.

Muutos alkaa kuulostaa uskonnolliselta kääntymykseltä. Juuri siitä on Lanierin mukaan kyse. Hänen kirjansa kymmenes ja viimeinen argumentti on, että sosiaalinen media vihaa sieluamme. Hänen mielestään paras vertailukohta Facebookin roolille yhteiskunnassamme ja mielissämme on uskonto. Facebookin uusi virallinen tehtävä on yhtiön mukaan ”varmistaa jokaisen ihmisen tuntevan elämällään olevan tarkoitus ja kuuluvansa yhteisöön”. Lanier kysyy – jos tämä ei ole uusi uskonto, niin mikä sitten?

Valitettavasti tämä on vielä kohtuullisen maltillista. Google on ilmoittanut haluavansa ”ratkaista kuoleman”. Googlen johtava insinööri Ray Kurzweil yrittää epätoivoisesti pitää itsensä elossa siihen asti, kunnes ihmiskunta pystyisi lataamaan hänen tietoisuutensa koneeseen.

Meidän mieltämme manipuloivien algoritmien kehittäjistä suuri osa ilmeisen tosissaan uskoo, että heidän päätehtävänään on palvella tulevaisuuden tekoälyjä. Onneksi Lanier sanoo suoraan mitä tällainen puhe on. Pelkkää hulluutta. Hän kertoo, miten hän kavereineen aikanaan keksi koko tekoälyn idean saadakseen rahoitusta. Se oli ”pragmaattista teatteria”. Nyt siitä on tullut fiktio, joka on kaapannut tekijänsä. ”Tekoäly on insinöörien roolipeliä”, Lanier sanoo.

Lanier kirjoitti tästä omituisesta uskosta jo vuonna 2010 teoksessaan Et ole koje (Terra Cognita, 2010).

Facebookin ja Googlen asiakkaina olemme tahtomattamme osa projektia, jossa hurahtaneet insinöörit uskovat rakentavansa omaa jumalaansa.

Marx sanoi uskonnon olevan oopiumia kansalle. Me voisimme sanoa algoritmin olevan oopiumia insinööreille.

Käytännössä tämä tarkoittaa sitä, että Lanierin mukaan jokainen Facebookin ja Googlen käyttäjä hyväksyy dataismin uskonnon ja luovuttaa henkilökohtaisen datansa osaksi sen suurta projektia. Dataismi on Piilaakson uskonnoksi muuttunut ideologia, jota Yuval Noah Harari kuvailee kirjansa Homo Deus viimeisessä luvussa.

 

Marx sanoi uskonnon olevan oopiumia kansalle. Me voisimme sanoa algoritmin olevan oopiumia insinööreille

Meidän osamme tässä uskonnossa on olla algoritmien raaka-ainetta, muuttujia suuressa datateologisessa yhtälössä. Tämä on yksi aikamme viheliäisimmistä paradokseista. Maailman rikkaimmat yhtiöt keräävät omaisuutensa manipuloimalla meitä tavallisia käyttäjiä raaka-aineeksi tulossa olevalle tekoälylle. Samaan samaan aikaan saamme koko ajan kuulla, kuinka tekoäly ja automaatio tekee työstämme ja meistä itsestämme merkityksettömiä.

Lanier esittää meille kutsun. Sen sijaan, että suostumme olemaan nimetön osa imperiumia, joka yrittää pakottaa inhimillisyyttä tietokoneohjelmalle nimeämällä sen tekoälyksi, me voimme nähdä miten tämä heikentää meidän, todella tuntevien ja aistivien ihmisten arvokkuutta, asemaa ja oikeuksia.

Tämä on jo tullut kauas siitä, miten meille näytetään kenkämainos Lauri Markkasen hassun videon jälkeen. Tämä saattaa kuulostaa jo enemmän Matrix-elokuvalta kuin kavereiden kuvien tykkäämisestä Facebookissa. Kyse on kuitenkin vain hyvin korkeasta perspektiivistä esitetystä kuvasta siitä, mitä juuri nyt todella tapahtuu. Lanier haluaa herättää meidät näkemään, miten perusteellisesti olemme addiktoivien algoritmien vallassa. Samalla hän näyttää, mihin suuntaan algoritmin suunnittelijat uskovat ihmiskunnan suuren tarinan olevan etenemässä. Se on hurja ja huimaava näkymä.

Lanierin kirjassa parasta on juuri hänen taitonsa kytkeä korkealentoinen pohdiskelu käytännöllisiin esimerkkeihin. Hän kysyy lukijoiltaan, haluamme me olla osa tällaista? Joka kerta, kun avaamme Facebookin, me olemme osa tätä tarinaa. Vaikka vanha hippi onkin, Lanier ei tyydy vanhaan sloganiin: ”jos et ole osa ratkaisua, olet osa ongelmaa”.

Hänellä on tilalle uusi lause: ”Jos et ole osa ratkaisua, ei ole ratkaisua.”
Nyt.fi luetuimmat
  • Juuri nyt
  • Päivä
  • Viikko
  1. 1

    Red Dead Redemption 2 on nyt maailman suosituin peli, jota vertaillaan jopa klassikkomaalauksiin – tämän takia sitä pidetään alan merkkipaaluna

  2. 2

    Kauppakeskus Redin arkkitehti vertasi ostaria riemastuttavasti Italian Sienaan ja käski mennä muualle, jos ei innosta – selvitimme vertauksen todenperäisyyttä

  3. 3

    Suomessa ei pysy järjissään marraskuussa ilman lentämistä – ja se on meidän parikymppisten luonnonystävien tragedia

  4. 4

    Tämä video brittien Brexit-keskustelun viittomakielisestä tulkista meni viraaliksi, sillä tyrmistynyt ilmeily kuvastaa Brexit-tunnelmia täydellisesti

  5. 5

    Mies loi ”bändilleen” tyhjästä fani­kunnan, levy-yhtiön sekä uutis­sivuston ja buukkasi niiden avulla kiertueen ilman yleisöä – nyt hän selittää tekoaan Twitterissä

  6. 6

    Onko naisen huivi aina alistamisen merkki? 18-vuotias huivinkäyttäjä kertoo, että ei ole – tästä kamppaillaan juuri nyt Euroopan maissa

  7. 7

    Koomikko pilkkasi silmänsä menettänyttä sotaveteraania suorassa tv-lähetyksessä, ja ihmiset menettivät hermonsa – sitten hän sai takaisin samalla mitalla

  8. 8

    Ajattelet sosiaalista mediaa väärin, sanoo Piilaakson pioneeri – rahaa ei tehdä mainostamisella vaan käytöksemme kokonaisvaltaisella muokkaamisella

  9. 9

    Jordan Petersonia pidetään vaarallisena älykkönä, jota oikeisto rakastaa, koska hän ryttää feministit – Nyt.fi:n haastattelussa hän sanoo pitävänsä itseään eheyttäjänä

    Tilaajille
  10. 10

    Stan Lee loi nykyaikaisia myyttejä ja teki jumalista ihmisiä

  11. Näytä lisää
  1. 1

    Red Dead Redemption 2 on nyt maailman suosituin peli, jota vertaillaan jopa klassikkomaalauksiin – tämän takia sitä pidetään alan merkkipaaluna

  2. 2

    Kauppakeskus Redin arkkitehti vertasi ostaria riemastuttavasti Italian Sienaan ja käski mennä muualle, jos ei innosta – selvitimme vertauksen todenperäisyyttä

  3. 3

    Suomessa ei pysy järjissään marraskuussa ilman lentämistä – ja se on meidän parikymppisten luonnonystävien tragedia

  4. 4

    Mies loi ”bändilleen” tyhjästä fani­kunnan, levy-yhtiön sekä uutis­sivuston ja buukkasi niiden avulla kiertueen ilman yleisöä – nyt hän selittää tekoaan Twitterissä

  5. 5

    Stan Lee loi nykyaikaisia myyttejä ja teki jumalista ihmisiä

  6. 6

    Tämä video brittien Brexit-keskustelun viittomakielisestä tulkista meni viraaliksi, sillä tyrmistynyt ilmeily kuvastaa Brexit-tunnelmia täydellisesti

  7. 7

    Helsinki kasvoi teehifistelijöiden kantapaikaksi, jossa uusinta darjeeling-erää himoitaan kuin käsityöläisoluita – listasimme kaupungin kiinnostavimmat teehuoneet

  8. 8

    Kuka on Hannes Suominen? Hänestä puhutaan nyt kaikkialla – selvitimme Suomisen jättisuosion salaisuuden 210 sekunnissa

  9. 9

    Koomikko pilkkasi silmänsä menettänyttä sotaveteraania suorassa tv-lähetyksessä, ja ihmiset menettivät hermonsa – sitten hän sai takaisin samalla mitalla

  10. 10

    Pikatestissä kauppakeskus Redin ravintolatarjonta – buffetit jyräävät, ja ruoka muistuttaa huoltoasemien salaattipöytää

  11. Näytä lisää
  1. 1

    Mies loi ”bändilleen” tyhjästä fani­kunnan, levy-yhtiön sekä uutis­sivuston ja buukkasi niiden avulla kiertueen ilman yleisöä – nyt hän selittää tekoaan Twitterissä

  2. 2

    Suomessa ei pysy järjissään marraskuussa ilman lentämistä – ja se on meidän parikymppisten luonnonystävien tragedia

  3. 3

    Tämä kuva Putinille hymyilevästä Trumpista levisi hetkessä viraaliksi – eikä se ole ihme, koska ihmiset tulkitsevat kuvan avulla maailmanpolitiikan koko nykytilaa

  4. 4

    Jordan Petersonia pidetään vaarallisena älykkönä, jota oikeisto rakastaa, koska hän ryttää feministit – Nyt.fi:n haastattelussa hän sanoo pitävänsä itseään eheyttäjänä

    Tilaajille
  5. 5

    Koomikko pilkkasi silmänsä menettänyttä sotaveteraania suorassa tv-lähetyksessä, ja ihmiset menettivät hermonsa – sitten hän sai takaisin samalla mitalla

  6. 6

    Kuka on Hannes Suominen? Hänestä puhutaan nyt kaikkialla – selvitimme Suomisen jättisuosion salaisuuden 210 sekunnissa

  7. 7

    Red Dead Redemption 2 on nyt maailman suosituin peli, jota vertaillaan jopa klassikkomaalauksiin – tämän takia sitä pidetään alan merkkipaaluna

  8. 8

    Todennäköisesti kukaan muukaan ei ole perillä koko brexitistä, joten tässä jutussa väännämme perusasiat rautalangasta ja selitämme ne hassuilla kuvilla

  9. 9

    House of Cards oli Netflixin ensimmäinen jättihitti, mutta nyt se on vain kohun keskelle joutunut varjo entisestä – näin sarja saa armollisen lopun viimeisellä kaudellaan

  10. 10

    Tämä video brittien Brexit-keskustelun viittomakielisestä tulkista meni viraaliksi, sillä tyrmistynyt ilmeily kuvastaa Brexit-tunnelmia täydellisesti

  11. Näytä lisää
Luetuimmat
  • Juuri nyt
  • Päivä
  • Viikko
  1. 1

    Nuoren omaisuus varastettiin Kampissa – Epäillyt yrittivät häipyä Poriin, poliisi pysäytti pakobussin Karkkilassa

  2. 2

    Renaultin toimitusjohtaja pidätetty Japanissa – Yhtiön osake laski 12 prosenttia

  3. 3

    Paniikkia, konkurssien pelkoa ja lähtöaikeita – Kauppakeskus Redin asiakaskato ajaa yrittäjiä ahdinkoon

  4. 4

    Red Dead Redemption 2 on nyt maailman suosituin peli, jota vertaillaan jopa klassikkomaalauksiin – tämän takia sitä pidetään alan merkkipaaluna

  5. 5

    Ei tässä mitään tindereitä tarvita – Venäjällä seuraa isketään vaikka kadulta, ja näin se tapahtuu

    Tilaajille
  6. 6

    Professori: Tiedustelulakien pykälistä 30 ristiriidassa perustuslain kanssa – ”Lienee uusi Suomen ennätys”

  7. 7

    Voisiko kerrostalon sisälämpötila olla 18 astetta? Merihaassa testataan, miten suomalaiset sietävät englantilaisia lämpötiloja

  8. 8

    F1-sarja vitsailee Räikkösen todella nopealla kolarilla: ”Jos maanantai olisi kisalähtö”

  9. 9

    Miesten ja naisten erot kasvavat, kun tasa-arvo lisääntyy – Odottamaton ”tasa-arvon paradoksi” on havaittu useissa tutkimuksissa

    Tilaajille
  10. 10

    Tutkimus paljastaa: Koulujen uudet menetelmät heikentävät oppimista merkittävästi

  11. Näytä lisää
  1. 1

    Tutkimus paljastaa: Koulujen uudet menetelmät heikentävät oppimista merkittävästi

  2. 2

    Paniikkia, konkurssien pelkoa ja lähtöaikeita – Kauppakeskus Redin asiakaskato ajaa yrittäjiä ahdinkoon

  3. 3

    Tällainen on Suomi: Kun Trump kertoi uskomattoman väitteen Pohjolan metsänhoidosta, suomalaiset lähtivät metsään haravoimaan ja imuroimaan

  4. 4

    Täti innostui sukututkimuksesta, ja niin Leenakin teki dna-testin – Kun tulokset tulivat, eletty elämä osoittautui valheeksi

    Tilaajille
  5. 5

    Aso-kotien vuokrat ovat järkyttäviä ja kallistuvat niin paljon, ettei niihin uskalla muuttaa, kertoo lukija – HS selvitti eri asumismuotojen kuluja

  6. 6

    Kuvia Suomesta, osa 39: Rio Gandara kuvasi, mitä tekevät ihmiset, jotka eivät saa öisin unta

  7. 7

    Kauppa­keskus Redin johtaja ei kommentoi yrittäjien lähtöaikeita: ”Vuokralaiset vastaavat itse omasta liiketoiminnastaan”

  8. 8

    Miesten ja naisten erot kasvavat, kun tasa-arvo lisääntyy – Odottamaton ”tasa-arvon paradoksi” on havaittu useissa tutkimuksissa

    Tilaajille
  9. 9

    Euroopassa raivoaa sota, jonka keskellä ihmiset käyvät oopperassa ja asuvat bunkkereissa – HS:n erikoisartikkeli vie Itä-Ukrainan sodan molemmille puolille

  10. 10

    Ei tässä mitään tindereitä tarvita – Venäjällä seuraa isketään vaikka kadulta, ja näin se tapahtuu

    Tilaajille
  11. Näytä lisää
  1. 1

    Tutkimus paljastaa: Koulujen uudet menetelmät heikentävät oppimista merkittävästi

  2. 2

    Puurokattila liedellä kertoi, että asunnosta oli lähdetty vauhdilla – Sina Varheen tytär katosi, ja seuraavien kuukausien jäljet seuraavat äitiä läpi elämän

    Tilaajille
  3. 3

    Helsingin surkein taloyhtiö oli pahassa jamassa ja jopa vaarallinen – juuri valmistunut peruskorjaus maksoi 2 800 euroa neliöltä

  4. 4

    Ilta-Sanomat: Näyttelijä Aku Hirviniemi sai syytteen kahdesta seksuaalisesta ahdistelusta

  5. 5

    Paniikkia, konkurssien pelkoa ja lähtöaikeita – Kauppakeskus Redin asiakaskato ajaa yrittäjiä ahdinkoon

  6. 6

    Ihmisten ja hiirten aivoista löytyi suolisto­bakteereita – ”Tämä on tajunnan­räjäyttävää”, kommentoi neuro­tieteilijä

  7. 7

    Täti innostui sukututkimuksesta, ja niin Leenakin teki dna-testin – Kun tulokset tulivat, eletty elämä osoittautui valheeksi

    Tilaajille
  8. 8

    Muutaman kympin Aalto-maljakosta väärennetään sahaamalla satojen eurojen klassikko – Näin ostajia jymäytetään väärennetyllä Suomi-designilla ja näin vältät huijarien ansat

    Tilaajille
  9. 9

    Mies loi ”bändilleen” tyhjästä fani­kunnan, levy-yhtiön sekä uutis­sivuston ja buukkasi niiden avulla kiertueen ilman yleisöä – nyt hän selittää tekoaan Twitterissä

  10. 10

    Kuvia Suomesta, osa 39: Rio Gandara kuvasi, mitä tekevät ihmiset, jotka eivät saa öisin unta

  11. Näytä lisää