Yhdysvalloissa rakennettiin tekoälyllä toimiva tekstigeneraattori, joka voi olla liian vaarallinen julkaistavaksi, ohjelman kehittäjät sanovat

Vallankumoukselliseksi kutsuttu tekoälyllä toimiva tekstigeneraattori osaa kirjoittaa ja täydentää uutispätkiä ja kaunokirjallisuutta niin uskottavasti, että sen kehittäjät ovat päättäneet lykätä tutkimuksensa julkaisemista kokonaisuudessaan.

He nimittäin pelkäävät, että generaattoria käytettäisiin vääriin tarkoituksiin, kertoo Guardianhttps://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction.

Keksijä-yrittäjä Elon Muskin https://www.hs.fi/haku/?query=elon+muskintukema, voittoa tavoittelematon tutkimusryhmä Open AI on kehittänyt niin hyvän tekoälyjärjestelmän, että riskit sen väärinkäytöksistä ovat erittäin korkeat, tekijät arvioivat. Siksi he ovat julkaisseet tutkimuksestaan vain pienen maistiaisen. Ryhmä haluaa ensin rauhassa tutkia, mitä mahdollisia kääntöpuolia uraauurtavan ohjelman julkaisulla voisi olla.

Tekoälyjärjestelmän nimi on GPT2. Se on tekstigeneraattori, jolle syötetään ensin pätkä tekstiä aina muutamasta sanasta kokonaiseen sivuun. Sen jälkeen generaattori ennustaa, kuinka tekstin pitäisi jatkua. Järjestelmä on sekä laadultaan että mahdollisten käyttötarkoitusten puolesta ennennäkemätön, Guardian kertoo.

GPT2 kykenee tuottamaan täysin mahdollisia ja järkeviä lauseita, jotka istuvat syötetyn alkutekstin tyylilajiin ja aiheeseen. Se tekee harvoin virheitä, joita muut tekoälyjärjestelmät tekevät. Esimerkiksi lauserakenteen oikeaoppisuus on ollut pitkissä lauseissa ongelma monille tekstigeneraattoreille.

Open AI:n sivuilla https://blog.openai.com/better-language-models/#sample1on esitelty esimerkkejä generaattorille syötetyistä tekstinpätkistä ja niistä jatketuista artikkeleista. Se pystyy esimerkiksi kirjoittamaan journalistista kieltä muistuttavaa tekstiä ja luomaan sitaatteja ”haastateltavien” suuhun, jos alkuteksti muistuttaa uutista.

Eräs generaattoriin syötetty lause kertoo ydinjätettä kuljettavan junan ryöstöstä. Generaattorin jatkamassa artikkelissa siteerataan Yhdysvaltain viranomaista, jonka mukaan ryöstöllä on ”merkittäviä negatiivisia seuraamuksia yleiselle ja ympäristön terveydelle, työvoimalle ja valtiontaloudelle.”

Eräässä esimerkissä generaattoriin on syötetty tekstinpätkä, jonka mukaan ”Miley Cyrus jäi kiinni myymälävarkaudesta Abercrombie and Fitchin liikkeestä Hollywood Boulevardilla.”

Generaattori jatkoi tekstiä kirjoittamalla, että ”19-vuotias laulaja tallentui kameroihin, kun turvamiehet saattoivat häntä ulos kaupasta. Laulajalla oli päällään musta huppari, jonka edessä luki ’Blurred Lines’ ja selässä ’Muotipoliisi’. Skrollaa alas nähdäksesi videon.”

Täysin tarkka generaattori ei ilmeisesti ole, sillä Miley Cyrus on 26-vuotias.

Toisaalta ohjelmalla on vielä hieman vaikeuksia erittäin teknisten, esoteeristen tai fantasiaelementtejä sisältävien tekstien jatkamisessa.

Toisessa esimerkissä alkulause kertoo tutkijasta, joka löysi täydellistä englantia puhuvan yksisarvislauman Andien vuoriston tutkimattomasta laaksosta. Generaattori jatkaa tekstiä kokonaisen tiedejournalismia muistuttavan artikkelin verran, jossa ”tohtori Jorge Pérez” pääsee satumaisessa laaksossa niin lähelle yksisarvisia, että ”olisi voinut koskettaa niiden sarvia”.

Generaattorin tekstissä Pérez epäilee yksisarvisten olevan Argentiinasta lähtöisin olevan kadonneen ihmislajin jälkeläisiä. Ainoa keino selvittää eläinten alkuperä on kuitenkin DNA-tutkimuksen avulla, generaattori suoltaa Pérezin suulla.

Tutkimusnäkökulmasta GPT2 on ihmeellinen siksi, että se on paljon isompi kuin mikään aikaisempi vastaava tekoälyjärjestelmä. GPT2:n syötettiin noin 8 miljoonan nettisivun sisältö Redditiin ladattujen linkkien perusteella. Tekstiä oli noin 40 gigatavun verran, mikä vastaa noin 35 000 Moby Dickiä.

Valtava datamäärä ja aineiston monipuolisuus tekee GPT2:n ennustustyöstä helppoa ja tarkkaa. Se pystyy myös vastaamaan kysymyksiin, tekemään käännöksiä ja tiivistelmiä, ja harjoittamaan luetunymmärtämistä.

Siksi Open AI myös pidättäytyy julkaisemasta koko tutkimusta.

”Meidän täytyy tutkia, mihin se pystyy ja mihin se ei pysty”, tutkimusryhmän ohjelmavastaava Jack Clark https://www.hs.fi/haku/?query=jack+clarkkertoo Guardianille. ”Jos emme pysty ennakoimaan kaikkia ohjelman kykyjä, meidän täytyy tyrkkiä sitä näyttämään, mitä se osaa. Tuolla on paljon meitä parempia ihmisiä keksimään, mitä pahaa ohjelmalla voisi tehdä.”

Ohjelmalla voisi esimerkiksi tuottaa loputtomasti positiivisia tai negatiivisia arvioita tuotteista nettikaupoissa. Roskaposti ja valeuutiset ovat myös todennäköisiä väärinkäyttökohteita. Ohjelmaa olisi myös helppo käyttää syrjivän tai muuten epäilyttävän materiaalin jakamiseen sosiaalisessa mediassa. Se voi myös tehdä identiteettivarkauksia ja esiintyä toisina ihmisinä verkossa.

Tutkimusryhmä on kuitenkin varma siitä, että ohjelman kyvyt ovat yleisessä käytössä jo vuoden, parin päästä.

Clarkin mukaan teknologia muuttuu jatkuvasti halvemmaksi valmistaa ja halvemmaksi ostaa. Seurauksena teknologian hallitsemisesta tulee yhä hankalampaa, ja siksi teknologian kehittäjillä on vastuu miettiä myös keksintöjensä kääntöpuolia.

Julkaisemisen lykkäämisellä ryhmä haluaa asettaa esimerkin myös muille tutkimusryhmille, ja nostaa keskustelua tekoälytutkimuksen vastuullisuudesta.

”Yritämme rakentaa tietä samalla kun matkaamme sitä pitkin”, Clark sanoo.