Netflixin uutuusdokumentissa teknologiajättien ex-työntekijät varoittavat luomistaan hirviöistä: ”Tunsin olevani hyvien puolella. En tiedä, tunnenko niin enää” - Nyt.fi | HS.fi

Netflixin uutuusdokumentissa teknologiajättien ex-työntekijät varoittavat luomistaan hirviöistä: ”Tunsin olevani hyvien puolella. En tiedä, tunnenko niin enää”

The Social Dilemma -dokumentissa muun muassa Facebookin ja Googlen entiset työntekijät herättelevät katsojia sosiaalisen median vaaroista.

Teknologia-yhtiöiden varallisuus on kiinni niiden mainostuloista. Siksi niiden tavoitteena on pitää käyttäjät mahdollisimman pitkään omalla alustalla, dokumentissa muistutetaan.­

15.9. 16:42

”Kuinka voit herätä Matrixista, jos et edes tiedä olevasi siinä?” kysyy Googlen entinen työntekijä Tristan Harris.

Sitaatissa hän viittaa tietysti tieteiselokuva Matrixiin (1999). Siinä ihmiset eivät tiedä elävänsä koneiden luomassa virtuaalimaailmassa, ja vasta punaisen pillerin valinta paljastaa elokuvan päähenkilölle Neolle totuuden.

Netflixissä syyskuussa julkaistussa Valvontakapitalismin vaarat (eng. The Social Dilemma) -dokumentissa katsojat halutaan herätellä tarkastelemaan sosiaalisen median vaikutuksia ihmisiin.

Eli näitä: sosiaalinen media addiktoi käyttäjiään, ihmiset tuijottavat näyttöjä sen sijaan, että keskustelisivat toisilleen, valeuutiset leviävät verkossa valtoimenaan ja käyttäjien tietoja myydään mainostajille.

Eikö kaikki tämä ole jo kuultu useampaan kertaan?

Ei aivan, sillä nyt äänessä ovat myös somejättien entiset työntekijät, jotka ovat olleet mukana suunnittelemassa ja kehittämässä sosiaalisen median yhteisöpalveluita.

Haastateltavien lista onkin vaikuttava. Mukaan on saatu muun muassa Twitterin entinen tekninen varapääjohtaja Alex Roetter ja entinen tuotepäällikkö Jeff Seibert, Pinterestin entinen pääjohtaja Tim Kendall, yksi Facebookin ”tykkää”-toiminnon suunnittelijoista Justin Rosenstein sekä loputtoman päivitysvirran suunnitellut Aza Raskin.

Kuitenkin juuri Matrix-vertauksen esittänyt Tristan Harris toimii dokumentin kiintopisteenä.

Puolentoista tunnin aikana häntä kuullaan enemmän kuin muita haastatelluista asiantuntijoista ja somejättien entisistä työntekijöistä. Eikä ihme, sillä Harrisin työhistoria on vähintäänkin mielenkiintoinen.

Dokumentin alkuminuuteilla muiden esittäytyessä hän tuijottaa kameraan, hengittelee ja nähtävästi valmistautuu haastatteluun. Lopulta kuva pysähtyy häneen ja haastattelija esittää kysymyksen kameran takaa:

”Missä ongelma piilee?”

Harris naurahtaa.

The Atlantic -lehden ”Piilaakson omatunnoksi” nimeämä Harris on vaatinut julkisesti teknologia-alaa tuomaan ”eettistä suunnittelua” tuotteisiinsa. Itse hän työskenteli aiemmin Googlen suunnittelueetikkona.

Tristan Harris työskentelee nykyisin Centre for Humane Technology -järjestössä, joka keskittyy kulutusteknologian etiikkaan.­

Dokumentissa Harris kertoo huomanneensa addiktoituneensa Googlen sähköpostiin, jota itse suunnitteli.

”Keskustelimme paljon postilaatikon ulkonäöstä ja väristä. Tunsin olevani riippuvainen sähköpostista, joten mielestäni oli kiehtovaa, ettei Googlella ollut ketään tekemässä siitä vähemmän addiktoivaa.”

Havainnosta muodostuu lumipalloefekti, sillä hänestä alkaa tuntua, että koko teknologia-alan on ajautunut sivuraiteille. Hän päätyi tekemään yhtiölle diaesityksen. Siinä hän kirjoitti, ettei koskaan historiassa 50 suunnittelijaa ole tehnyt päätöksiä, jotka vaikuttavat kahteen miljardiin ihmiseen. Googlella on moraalinen vastuu ratkaista ongelma, hän kuulutti.

”Kaksi miljardia ihmistä ajattelee, mitä ei aikonut ajatella, koska Googlen suunnittelija sanoi: ’Näin ilmoitukset toimivat näytöllä, johon heräät aamulla.’”

Tässä piileekin yksi dokumentin kiinnostavimmista ajatuksista: jokainen ilmoitus, jonka luet puhelimesi näytöltä on sinun päähäsi istutettu ajatus. Ilman puhelimeen tullutta notifikaatiota et olisi ajatellut sitä.

Harrisin Googlelle tekemä ehdotus keräsi hänen omien sanojensa mukaan kiitosta, mutta ei johtanut minkäänlaisiin toimenpiteisiin. Hän irtisanoutui Googlelta vuonna 2016.

Dokumentti tuo esille, että teknologia-alan yhtiöt, kuten Facebookin ja Googlen ovat kaikkien aikojen menestyneimpiä ja varakkaimpia yhtiöitä, vaikka käyttäjät eivät maksa niiden palveluista.

”Jos et maksa tuotteesta, sinä olet tuote”, Harris sanoo.

Tästä muistuttaa useat eri haastateltavat: se, että käyttäjät eivät maksa sosiaalisen median sovelluksista, ei tarkoita, ettei kukaan maksaisi niistä. Yhtiöiden tulot tulevat mainostajilta ja mainostuloista.

Koska yhtiöiden varallisuus on kiinni mainostuloista, tavoitteena on pitää käyttäjät mahdollisimman pitkään omalla alustalla. Harrisin mukaan tämän takia sosiaalisen median alustat kilpailevat käyttäjiensä ajasta.

Tästä syystä somealustoista tehdään mahdollisimman addiktoivia esimerkiksi ilmoitusten, kuviin ja julkaisuihin tägäämisen ja jatkuvan päivitysvirran avulla. Jatkuvalla päivitysvirralla tarkoitetaan sosiaalisen median etusivuja, jossa sivun kärkeen nousee jokaisella kerralla uusia päivityksiä, kun käyttäjä päivittää verkkosivun tai sovelluksen.

Dokumentin mukaan kaiken tarkoituksena on saada käyttäjät katsomaan lisää mainoksia ja näin tuottamaan yhtiöille lisää rahaa.

”Olemme vain zombeja, joiden halutaan katsovan mainoksia, jotta he voivat tehdä lisää rahaa”, Facebookin entinen työntekijä Sandy Parakilas kommentoi.

Dokumenttiin on lisätty näyteltyjä kohtauksia kuvitteellisen perheen elämästä, joita esitetään teknologiaeksperttien haastatteluiden lomassa. Kohtausten tarkoituksena on luultavasti, hyvin amerikkalaiseen tapaan, kasvattaa katsojien tunnereaktioita ja lisätä tarinallisuutta. Useat kohtaukset tuntuvat kärjistetyiltä, mutta voivat myös havainnoida somealustojen tosielämän seurauksia.

Z-sukupolvi eli vuoden 1996 jälkeen syntyneet ovat ensimmäinen sukupolvi, joiden kouluaikana sosiaalinen media on ollut olemassa.­

Perheen nuorin tyttö ei saa katsettaan irti puhelimesta ja ahdistuu, kun hänen kuvansa eivät kerää tarpeeksi tykkäyksiä. Perheen teini-ikäinen poika taas alkaa katsella videoita, joita muu perhe nimittää propangandaksi.

”Luodessamme tykkää-painiketta motivaatiomme oli levittää positiivisuutta ja rakkautta. Ketju tähän päivään, joilloin teinit masentuvat vähäisistä tykkäyksistä, ei ollut ennustettavissa”, Facebookilla työskennellyt Justin Rosenstein sanoo.

Voimakkain syytös, jonka dokumentin tekijät esittävät, on sosiaalisen median osuus Yhdysvaltojen poliittisessa kahtiajakautuneisuudessa.

Sosiaalisen median palveluiden algoritmit vaikuttavat käyttäjien näkemiin sisältöihin. Käyttäjien näkemät sisällöt riippuvat muun muassa käyttäjien aiemmista tykkäyksistä ja klikkauksista, mutta myös asuinpaikasta ja iästä.

Youtube-suositusten parissa työskennellyt Guillaume Chaslotin kertoo, että käyttäjän alkaessa katsoa tietynlaista videota, algoritmi jatkaa samanlaisten suosittelua. Jos käyttäjä katsoo tarpeeksi monta salaliittoteoriavideota esimerkiksi litteästä maasta tai koronaviruksesta, vastaavat sisällöt täyttävät koko alustan. Tämä voi peittää alleen faktapohjaisen informaation tai antaa valheellisen kuvan salaliittoteorian kannattajakunnan laajuudesta.

”Algoritmi suositteli salaliittoteoriaa satoja miljoonia kertoja. On helppoa ajatella, että vain muutama tyhmä ihminen haksahtaa, mutta algoritmi käy yhä älykkäämmäksi joka päivä”, Chaslot kertoo.

Näin ollen käyttäjien somekanaville ilmestyvät uutiset ja sisällöt voivat poiketa radikaalisti esimerkiksi sen mukaan, mitä puoluetta he kannattavat.

Vaikka monilta osin somejättien entiset työntekijät näyttävät potevan huonoa omatuntoa, tuntuu puolustuksena lähinnä toimivan, ettei kukaan aavistanut teknologian kääntyvän ihmisiä vastaan.

”Kun olin siellä, tunsin aina olevani hyvien puolella. En tiedä, tunnenko niin enää”, Twitterin entinen tekninen varapääjohtaja Alex Roetter sanoo.

Tässäkin suhteessa Harris toimii dokumentin moraalisena kompassina: ”Rakensimme tämän kaiken ja meillä on velvollisuus muuttaa sitä”, hän sanoo.

Haastateltavien syytökset kohdistetaan mainostajiin ja itse teknologia-alan yhtiöihin oikeastaan ketään nimeämättä. Kukaan teknologiajättien nykyisistä työntekijöistä ei pääse dokumentissa ääneen. Viime aikoina teknologia-alan yritysten toimitusjohtajia on kuultu muualla mediassa. Esimerkiksi elokuussa The New York Timesin suosittu The Daily -podcast omisti kokonaisen jakson Twitterin toimitusjohtaja Jack Dorseyn haastattelulle.

Heinäkuussa järjestetyssä ”big tech” -kuulemisessa taas suurten teknologiayhtiöiden Applen, Amazonin, Googlen ja Facebookin toimitusjohtajat olivat Yhdysvaltain kongressin kilpailuoikeusjaoston kuultavina Washingtonissa.

Dokumentissa vaaditaan selkeästi ainakin kahta asiaa. Ensimmäisenä vaaditaan, että teknologia-alan jättien tulisi myöntää osuutensa yhteiskunnan kahtiajakautuneisuudesta ja vastuunsa siitä. Toiseksi vaaditaan parempia lakea säätelemään käyttäjien digitaalista yksityisyyttä.

Lopussa saadaan myös vastaus Harrisille alussa esitettyyn kysymykseen. Pielessä on hänen mukaansa aivan kaikki.

”Kuulostaa hullulta, että meidän on muutettava kaikki, mutta se on tehtävä.”

Luitko jo nämä?

Nyt.fi luetuimmat