Teknologia

Satojen robottilennokkien laivueita rakennetaan jo nyt, sanoo Suomessa vieraillut professori – Noel Sharkey vaatii maailmanlaajuista kieltoa ”tappajaroboteille”

Emeritusprofessori Noel Sharkey haluaisi selvät säännöt siihen, millaisia päätöksiä älykkäät aseet saavat tehdä.

Valkotaululla miehittämättömät panssarivaunut etenevät pitkin kaupunkia ja ampuvat vihollisia refleksinomaisesti. Seuraavissa kuvissa tuulen heittelemät lennokit nousevat jonossa ilmaan lentotukialukselta.

Sheffieldin yliopiston emeritusprofessori Noel Sharkey kelaa sekalaista videosarjaansa eteenpäin ja kuvailee, kuinka sodankäynti autonomisoituu ja siinä sivussa tappopäätösten tekeminen uhkaa luisua tietokoneille. Sen vuoksi maailman valtioiden pitäisi välittömästi sopia uusia rajoja sille, mitä aseet saavat tehdä ilman ihmistä, hän jatkaa.

”Huolestuttavinta on niin sanottujen ’parvien’ kehittäminen. Venäjä, Yhdysvallat ja Kiina ovat pyrkineet luomaan järjestelmiä, jossa jopa sadan lennokin laivue kykenee toimimaan autonomisesti ilman ihmistä”, Sharkey täsmentää esitelmänsä jälkeen.

”Takavuosina Yhdysvallat ajatteli, että he ovat autonomisten järjestelmien kehityksen kärjessä. Muut maat ovat kuitenkin tulleet mukaan. Se aiheuttaa kilpavarustelua.”
Mainos (Teksti jatkuu alla)
Mainos päättyy

Toisin kuin etäohjattu lennokki, autonominen lennokki ei tarvitse ihmistä lainkaan. Veikkauksissa niitä pidetään vallankumouksellisuudessaan sodankäynnin tulevaisuutena.


Pikkuparlamentin Kansalaisinfossa tiistaina puhunut Sharkey on aseaktivisti sekä kansainvälisen Stop Killer Robots -kampanjan asiantuntija. Kampanjan ajaa nimensä mukaisesti maailmanlaajuista kieltoa ”tappajaroboteille”.

Sharkey ei tosin pidä sanasta tappajarobotti. Hän kuitenkin myöntää, että termi on myyvempi kuin sanarimpsu ’täysin autonominen asejärjestelmä’: harva kansalainen antaisi robottien päättää ihmisten elämästä ja kuolemasta, mutta juuri niin voi Sharkeyn mukaan käydä.

Eri tavoin itsenäisesti toimivia järjestelmiä kehitetään sotilaskäyttöön vauhdilla.

Tuoreimmiksi esimerkeiksi Sharkey mainitsee venäläiset T14 Armata -panssarivaunut sekä yhdysvaltalaisen X-47B-lennokkihankkeen. Sharkeyn mukaan ei ole vaikea kuvitella, että yhä kehittyneempiä järjestelmiä lähetettäisiin vastaisuudessa etsimään tuhottavaa itsenäisesti.

Suomalaisistakin osa saattaa muistaa Sharkeyn suositusta brittiläisestä televisio-ohjelmasta Robot Wars, jossa hän toimi päätuomarina 2000-luvun taitteessa ja sarjan uudelleenkäynnistyksessä kaksi vuotta sitten.

Tekoälyn ja robotiikan parissa uransa tehnyt professori kiinnostui autonomisista asejärjestelmistä vuonna 2007, kun hän tajusi, millaista vauhtia niitä yritetään kehittää ja mitä ongelmia niihin liittyy.

Sharkey listaa kärkinelikkonsa: tietokoneohjelmat ovat epäluotettavia, kansainvälinen humanitaarinen oikeus velvoittaa esimerkiksi välttämään siviiliuhreja, eettiset kysymykset ovat ratkaisematta ja koko maailman turvallisuustilanne järkkyy, kun valtiot ryhtyvät kilpavarusteluun.

Yksi riski ovat tahattomat yhteenotot, Sharkey kuvailee. Hänen mukaansa niin voi käydä, jos vaikkapa konfliktin vastapuolten autonomisesti toimivat lennokkilaivueet joutuvat kosketukseen.

”Yhdysvallat on todennut, että asejärjestelmien toiminnassa pitää aina olla mukana ’ihmisen tekemä asianmukainen arviointi’, mutta ei ole selvää, mitä se tarkalleen tarkoittaa. Se voisi tarkoittaa esimerkiksi sitä, että yksi ihminen ohjaa koko ’parvea’.”

Sharkeyn mukaan onkin mahdollista, että ihminen voisi vain lähettää aseistetut lennokit taistelualueelle, minkä jälkeen ”parvi” etsisi, tunnistaisi ja tuhoaisi kohteensa itsenäisesti. Kuolonuhreja voi tulla, mutta ihmisen tekemä arviointi olisi nimellisesti kuitattu.

Sharkeyn mukaan hän taustaryhmineen ei vastusta autonomisia järjestelmiä itsessään. Pyrkimyksenä on vain rajata mahdollisesti ihmisuhreja aiheuttavat päätökset autonomian ulkopuolelle.

Käytännössä kielto koskisi kahta asiaa: koneellista kohteiden valitsemista ja jäljittämistä sekä hyökkäyspäätöksen tekemistä. Nämä pitäisi Sharkeyn mukaan kytkeä eräitä tavanomaisia aseita kieltävään YK:n yleissopimukseen.

”Tämä rajaus on yksinkertainen ja ihmiset monimutkaistavat keskustelua liikaa. Me emme halua, että jokin ohjelmisto valitsee kohteita.”

”Teknologia erehtyy, ja sitä voi myös huijata.”

Sharkeyn mukaan kielloilla voisi olla myös ennalta ehkäisevä vaikutus kemiallisten aseiden tapaan. Ne saattaisivat leimata ”tappajarobotit” ihmisten silmissä niin vastenmielisiksi, että kynnys niiden käyttämiseksi nousee.

Uusia kansainvälisiä kieltosopimuksia on vastustanut esimerkiksi Britannia, jonka mukaan kansainvälinen humanitaarinen oikeus rajoittaa jo nyt autonomisten aseiden käyttöä hyökkäämisessä.

Samanlaisen johtopäätöksen teki tiistaina Pikkuparlamentissa puhunut Suomen Punaisen Ristin oikeudellinen neuvonantaja Jani Leino.

”Ennen kansainvälisiin neuvotteluihin ryhtymistä valtioille pitää olla selvää, missä määrin kansainvälinen humanitaarinen oikeus jo nyt rajoittaa autonomisten aseiden käyttöä. – – Nykyisessä ilmapiirissä on riski, että yhteisymmärrystä ei välttämättä saavutettaisi. Jotkut valtiot voisivat puolestaan käyttää tätä perusteena, että kansainvälinen humanitaarinen oikeus ei jo nyt aseta joitakin kieltoja tai rajoituksia autonomian käytölle.”

Leino myös korosti, että velvoitteet on kirjoitettu ihmisille, eikä niitä voi siirtää eteenpäin koneille.

Tukholman kansainvälinen rauhantutkimusinstituutti Sipri julkaisi viime vuonna kattavan selvityksensä autonomisten asejärjestelmien nykytilasta. Sen mukaan kehitteillä tai olemassa olevat autonomiset asejärjestelmät ovat enimmäkseen puolustuksellisia.

Tällaisia järjestelmiä ovat esimerkiksi Israelin rautakupolina tunnettu ohjuspuolustusjärjestelmä, Yhdysvaltain laivaston ilmatorjuntajärjestelmä Aegis sekä saksalainen NBS Mantis, joka ampuu automaattisesti alas esimerkiksi kranaatinheittimen ammuksia.

Tällaiset järjestelmät voidaan Sharkeyn mukaan sallia. Hän kuitenkin sanoo, että puolustuksellisen ja hyökkäävän järjestelmän ero ei ole aivan selvä. Hän mainitsee israelilaisen Harpy-lennokin, joka on käytännössä lentävä räjähde.

”Harpy on ilma-alus, joka etsii tutkasignaaleja. Kun se havaitsee tutkan, se syöksyy sitä kohti ja räjäyttää itsensä. Ne eivät kuitenkaan ole ongelmattomia: järjestelmä hyökkäisi, vaikka joku laittaa tutkan koulun tai sairaalan päälle.”

Tiistain tilaisuuden järjestivät rauhanjärjestöt Sadankomitea ja Rauhanliitto.

Korjaus 18.6. kello 16.09: Suomen Punaisen Ristin Jani Leinon nimi oli virheellisesti muodossa Jari Leino. Leinon sitaattia on myös täsmennetty.

    Seuraa uutisia tästä aiheesta

  • Robotit
  • Tekoäly
  • Teknologia
  • Ossi Mansikka

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      Kuvia Suomesta, osa 34: Akseli Valmunen palasi kesällä Lappiin kuvaamaan autioita turistikohteita

    2. 2

      Sikiön sydän löi, vaikka Susannan munanjohtimet oli poistettu – Lääkärit eivät ymmärrä, miten hän voi olla raskaana

      Tilaajille
    3. 3

      Kaljaa, sikareita ja miesten välttelyä – satavuotiaiden selitykset ontuvat, mutta tiede on viimein löytämässä pitkän iän salaisuuden

      Tilaajille
    4. 4

      Miten siskoni olisi voinut sanoa, että isämme ei enää ole toimintakykyinen? Lääkärin pitäisi haastatella muistisairasta ja omaisia erikseen

    5. 5

      Mitä useamman auton jengiläiset polttavat Ruotsin lähiöissä, sitä paremman vaaliaseen saa Jussi Halla-aho

    6. 6

      Onko presidentin ympärillä hiljaisuuden kehä?

    7. 7

      Camden Elliott on Trumpia palvovan Amerikan kasvatti, joka vaihtoi kotiseudun huippuyliopistoon – Paluu Etelä-Virginiaan on kuin matka vieraaseen maahan

      Tilaajille
    8. 8

      Kiina käyttää kovia keinoja maailmalla, ja se pitäisi ottaa huomioon Suomenkin lainsäädännössä

      Tilaajille
    9. 9

      Yli kolme metriä korkean keskusta-asunnon kuutiohinta voi olla yllättävän pieni verrattuna tavanomaiseen huoneistoon – ilmatila kannattaa hyödyntää sisustuksessa ja säilytyksessä

    10. 10

      Siniset on vielä vuoden jälkeen puolue, jolla on alle tuhat jäsentä ja joka etsii arvojaan – HS seurasi olemassa­olostaan kamppailevan puolueen ministeri­kokousta Turussa

    11. Näytä lisää
    1. 1

      Kuplavolkkarin nimi oli Jenny, ja sen lokasuojassa kulki maailmalle jotain poikkeuksellista – Kolme suomalaista taltioi Tšekkoslovakian miehitystä 1968, ja nyt HS näyttää ainutlaatuisen materiaalin

      Tilaajille
    2. 2

      Jätkäsaaren suunnittelussa tehtiin suuri virhe

    3. 3

      ”Miten te suomalaiset oikein selviätte hankalan luonteenne kanssa?”– Kiinalaiset rakastuivat sosiaalisesti kömpelöön Mattiin, joka välttelee ihmisten kohtaamista

    4. 4

      Suomalaismiehen epäillään joutuneen yli 30 miljoonan euron arvoisen bitcoin-kavalluksen uhriksi – Huijauksen taustalla on thaimaalaisia julkkiksia ja pankkien laiminlyöntejä

    5. 5

      Tapio Pesola näyttäisi lapsilleen mielellään maailmaa, mutta hän ei lennä vapaa-ajalla: ”Vaikka söisi koko vuoden vegaaniruokaa, ei pysty kompensoimaan kaukomatkojen päästöjä”

    6. 6

      Solakka mies, joka myi huumeita, lakanoita ja seuraansa – Jari Sillanpään hovihankkija rakasti huippuhotelleja ja kärähti lapsipornosta

      Tilaajille
    7. 7

      Huippuyliopisto MIT:n tutkijat onnistuivat katkaisemaan spagetin kahteen osaan – ei ole niin helppoa kuin luulisi, sillä spagettimysteeri on kalvanut fyysikoita vuosikymmeniä

    8. 8

      Lasse Lempaisen veitsen alla oli sadan miljoonan euron mies – Saako maailman paras urheilukirurgi Sakari Orava seuraajan Suomesta?

      Tilaajille
    9. 9

      ”Minut yllättää yhä, etteivät ihmiset tajua: ohitus ei lähde takapuskurista” – HS ajoi 700 kilometriä nopeusrajoitusten mukaisesti ja selvitti, kuinka suomalaiset ohittelevat

    10. 10

      Kehitysmaiden lapset saatiin kouluun, mutta he eivät välttämättä opi edes lukemaan – tutkijan mielestä koulutuksen kärkimaa Suomi voisi auttaa, jos uskaltaisi

    11. Näytä lisää
    1. 1

      Toimittaja ja kirjailija Perttu Häkkinen on kuollut – Flow-festivaalilla pidettiin hiljainen hetki

    2. 2

      Yali Liu hämmästyi, kun suomalaiskollegat ottivat lounaspuheet tosissaan – Kolme Suomessa työskentelevää ulkomaalaista kertoo, miten me teemme töitä

      Tilaajille
    3. 3

      Solakka mies, joka myi huumeita, lakanoita ja seuraansa – Jari Sillanpään hovihankkija rakasti huippuhotelleja ja kärähti lapsipornosta

      Tilaajille
    4. 4

      Hermostunut polkupyöräilijä pysäytti Onnibusin keskelle Mannerheimin­tietä, poliisi nuhteli osapuolet – ”Minusta oli täydellisen perusteltua jäädä kaistalle”

    5. 5

      ”Tule kotiin <3”, kirjoitti Eveliina Rimpeläinen – Sitä ennen hänen miehensä humalainen kaahailu oli katkennut piikkimattoon ja epäilyyn poliisin murhan yrityksestä

      Tilaajille
    6. 6

      Kuplavolkkarin nimi oli Jenny, ja sen lokasuojassa kulki maailmalle jotain poikkeuksellista – Kolme suomalaista taltioi Tšekkoslovakian miehitystä 1968, ja nyt HS näyttää ainutlaatuisen materiaalin

      Tilaajille
    7. 7

      Festareiden silmiinpistävät: Flow’hun kultaisiin legginseihin pukeutuneet miehet: “Missään muualla kuin Mummotunnelissa mua ei ole kähmitty näin paljon”

    8. 8

      Genovan alueelle julistettiin vuoden hätätila tiistain siltaromahduksen vuoksi – Video näyttää täpärän pelastumisen

    9. 9

      Helsinkiläiskoulu jakoi oppilaat eri ryhmiin sukupuolen mukaan – Jenni Korkeaojan lapsi lähti tunnille, jonka nimi on lukujärjestyksessä ”Pojat”

    10. 10

      Niklas nosti 2 000 euron pikavipin, hyppäsi bussiin ja pelasi rahat loppuun työmatkalla – ”Unelmien toimiala” takoo satumaisia tuottoja mutta jättää jälkeensä rumia tarinoita

      Tilaajille
    11. Näytä lisää
    Uusimmat
    1. Juuri nyt
    2. Kuvia Suomesta, osa 34: Akseli Valmunen palasi kesällä Lappiin kuvaamaan autioita turistikohteita
    3. Camden Elliott on Trumpia palvovan Amerikan kasvatti, joka vaihtoi kotiseudun huippuyliopistoon – Paluu Etelä-Virginiaan on kuin matka vieraaseen maahan Tilaajille
    4. Rotusortajat ampuivat opiskelijoita tässä Soweton kirkossa – Nelson Mandela muutti kaiken, ja nyt Osmo Vänskä johti mustat ja valkoiset ekstaattiseen harmoniaan hänen satavuotisjuhlissaan
    5. Sikiön sydän löi, vaikka Susannan munanjohtimet oli poistettu – Lääkärit eivät ymmärrä, miten hän voi olla raskaana Tilaajille
    6. Onko presidentin ympärillä hiljaisuuden kehä?
    7. Kiina käyttää kovia keinoja maailmalla, ja se pitäisi ottaa huomioon Suomenkin lainsäädännössä Tilaajille
    8. Yli kolme metriä korkean keskusta-asunnon kuutiohinta voi olla yllättävän pieni verrattuna tavanomaiseen huoneistoon – ilmatila kannattaa hyödyntää sisustuksessa ja säilytyksessä
    9. Miten siskoni olisi voinut sanoa, että isämme ei enää ole toimintakykyinen? Lääkärin pitäisi haastatella muistisairasta ja omaisia erikseen
    10. Mitä useamman auton jengiläiset polttavat Ruotsin lähiöissä, sitä paremman vaaliaseen saa Jussi Halla-aho
    11. Kaljaa, sikareita ja miesten välttelyä – satavuotiaiden selitykset ontuvat, mutta tiede on viimein löytämässä pitkän iän salaisuuden Tilaajille
    12. Näytä lisää