Teknologia

Satojen robottilennokkien laivueita rakennetaan jo nyt, sanoo Suomessa vieraillut professori – Noel Sharkey vaatii maailmanlaajuista kieltoa ”tappajaroboteille”

Emeritusprofessori Noel Sharkey haluaisi selvät säännöt siihen, millaisia päätöksiä älykkäät aseet saavat tehdä.

Valkotaululla miehittämättömät panssarivaunut etenevät pitkin kaupunkia ja ampuvat vihollisia refleksinomaisesti. Seuraavissa kuvissa tuulen heittelemät lennokit nousevat jonossa ilmaan lentotukialukselta.

Sheffieldin yliopiston emeritusprofessori Noel Sharkey kelaa sekalaista videosarjaansa eteenpäin ja kuvailee, kuinka sodankäynti autonomisoituu ja siinä sivussa tappopäätösten tekeminen uhkaa luisua tietokoneille. Sen vuoksi maailman valtioiden pitäisi välittömästi sopia uusia rajoja sille, mitä aseet saavat tehdä ilman ihmistä, hän jatkaa.

”Huolestuttavinta on niin sanottujen ’parvien’ kehittäminen. Venäjä, Yhdysvallat ja Kiina ovat pyrkineet luomaan järjestelmiä, jossa jopa sadan lennokin laivue kykenee toimimaan autonomisesti ilman ihmistä”, Sharkey täsmentää esitelmänsä jälkeen.

”Takavuosina Yhdysvallat ajatteli, että he ovat autonomisten järjestelmien kehityksen kärjessä. Muut maat ovat kuitenkin tulleet mukaan. Se aiheuttaa kilpavarustelua.”
Mainos (Teksti jatkuu alla)
Mainos päättyy

Toisin kuin etäohjattu lennokki, autonominen lennokki ei tarvitse ihmistä lainkaan. Veikkauksissa niitä pidetään vallankumouksellisuudessaan sodankäynnin tulevaisuutena.


Pikkuparlamentin Kansalaisinfossa tiistaina puhunut Sharkey on aseaktivisti sekä kansainvälisen Stop Killer Robots -kampanjan asiantuntija. Kampanjan ajaa nimensä mukaisesti maailmanlaajuista kieltoa ”tappajaroboteille”.

Sharkey ei tosin pidä sanasta tappajarobotti. Hän kuitenkin myöntää, että termi on myyvempi kuin sanarimpsu ’täysin autonominen asejärjestelmä’: harva kansalainen antaisi robottien päättää ihmisten elämästä ja kuolemasta, mutta juuri niin voi Sharkeyn mukaan käydä.

Eri tavoin itsenäisesti toimivia järjestelmiä kehitetään sotilaskäyttöön vauhdilla.

Tuoreimmiksi esimerkeiksi Sharkey mainitsee venäläiset T14 Armata -panssarivaunut sekä yhdysvaltalaisen X-47B-lennokkihankkeen. Sharkeyn mukaan ei ole vaikea kuvitella, että yhä kehittyneempiä järjestelmiä lähetettäisiin vastaisuudessa etsimään tuhottavaa itsenäisesti.

Suomalaisistakin osa saattaa muistaa Sharkeyn suositusta brittiläisestä televisio-ohjelmasta Robot Wars, jossa hän toimi päätuomarina 2000-luvun taitteessa ja sarjan uudelleenkäynnistyksessä kaksi vuotta sitten.

Tekoälyn ja robotiikan parissa uransa tehnyt professori kiinnostui autonomisista asejärjestelmistä vuonna 2007, kun hän tajusi, millaista vauhtia niitä yritetään kehittää ja mitä ongelmia niihin liittyy.

Sharkey listaa kärkinelikkonsa: tietokoneohjelmat ovat epäluotettavia, kansainvälinen humanitaarinen oikeus velvoittaa esimerkiksi välttämään siviiliuhreja, eettiset kysymykset ovat ratkaisematta ja koko maailman turvallisuustilanne järkkyy, kun valtiot ryhtyvät kilpavarusteluun.

Yksi riski ovat tahattomat yhteenotot, Sharkey kuvailee. Hänen mukaansa niin voi käydä, jos vaikkapa konfliktin vastapuolten autonomisesti toimivat lennokkilaivueet joutuvat kosketukseen.

”Yhdysvallat on todennut, että asejärjestelmien toiminnassa pitää aina olla mukana ’ihmisen tekemä asianmukainen arviointi’, mutta ei ole selvää, mitä se tarkalleen tarkoittaa. Se voisi tarkoittaa esimerkiksi sitä, että yksi ihminen ohjaa koko ’parvea’.”

Sharkeyn mukaan onkin mahdollista, että ihminen voisi vain lähettää aseistetut lennokit taistelualueelle, minkä jälkeen ”parvi” etsisi, tunnistaisi ja tuhoaisi kohteensa itsenäisesti. Kuolonuhreja voi tulla, mutta ihmisen tekemä arviointi olisi nimellisesti kuitattu.

Sharkeyn mukaan hän taustaryhmineen ei vastusta autonomisia järjestelmiä itsessään. Pyrkimyksenä on vain rajata mahdollisesti ihmisuhreja aiheuttavat päätökset autonomian ulkopuolelle.

Käytännössä kielto koskisi kahta asiaa: koneellista kohteiden valitsemista ja jäljittämistä sekä hyökkäyspäätöksen tekemistä. Nämä pitäisi Sharkeyn mukaan kytkeä eräitä tavanomaisia aseita kieltävään YK:n yleissopimukseen.

”Tämä rajaus on yksinkertainen ja ihmiset monimutkaistavat keskustelua liikaa. Me emme halua, että jokin ohjelmisto valitsee kohteita.”

”Teknologia erehtyy, ja sitä voi myös huijata.”

Sharkeyn mukaan kielloilla voisi olla myös ennalta ehkäisevä vaikutus kemiallisten aseiden tapaan. Ne saattaisivat leimata ”tappajarobotit” ihmisten silmissä niin vastenmielisiksi, että kynnys niiden käyttämiseksi nousee.

Uusia kansainvälisiä kieltosopimuksia on vastustanut esimerkiksi Britannia, jonka mukaan kansainvälinen humanitaarinen oikeus rajoittaa jo nyt autonomisten aseiden käyttöä hyökkäämisessä.

Samanlaisen johtopäätöksen teki tiistaina Pikkuparlamentissa puhunut Suomen Punaisen Ristin oikeudellinen neuvonantaja Jani Leino.

”Ennen kansainvälisiin neuvotteluihin ryhtymistä valtioille pitää olla selvää, missä määrin kansainvälinen humanitaarinen oikeus jo nyt rajoittaa autonomisten aseiden käyttöä. – – Nykyisessä ilmapiirissä on riski, että yhteisymmärrystä ei välttämättä saavutettaisi. Jotkut valtiot voisivat puolestaan käyttää tätä perusteena, että kansainvälinen humanitaarinen oikeus ei jo nyt aseta joitakin kieltoja tai rajoituksia autonomian käytölle.”

Leino myös korosti, että velvoitteet on kirjoitettu ihmisille, eikä niitä voi siirtää eteenpäin koneille.

Tukholman kansainvälinen rauhantutkimusinstituutti Sipri julkaisi viime vuonna kattavan selvityksensä autonomisten asejärjestelmien nykytilasta. Sen mukaan kehitteillä tai olemassa olevat autonomiset asejärjestelmät ovat enimmäkseen puolustuksellisia.

Tällaisia järjestelmiä ovat esimerkiksi Israelin rautakupolina tunnettu ohjuspuolustusjärjestelmä, Yhdysvaltain laivaston ilmatorjuntajärjestelmä Aegis sekä saksalainen NBS Mantis, joka ampuu automaattisesti alas esimerkiksi kranaatinheittimen ammuksia.

Tällaiset järjestelmät voidaan Sharkeyn mukaan sallia. Hän kuitenkin sanoo, että puolustuksellisen ja hyökkäävän järjestelmän ero ei ole aivan selvä. Hän mainitsee israelilaisen Harpy-lennokin, joka on käytännössä lentävä räjähde.

”Harpy on ilma-alus, joka etsii tutkasignaaleja. Kun se havaitsee tutkan, se syöksyy sitä kohti ja räjäyttää itsensä. Ne eivät kuitenkaan ole ongelmattomia: järjestelmä hyökkäisi, vaikka joku laittaa tutkan koulun tai sairaalan päälle.”

Tiistain tilaisuuden järjestivät rauhanjärjestöt Sadankomitea ja Rauhanliitto.

Korjaus 18.6. kello 16.09: Suomen Punaisen Ristin Jani Leinon nimi oli virheellisesti muodossa Jari Leino. Leinon sitaattia on myös täsmennetty.

    Seuraa uutisia tästä aiheesta

  • Robotit
  • Tekoäly
  • Teknologia
  • Ossi Mansikka

Kommentit

    Ei vielä kommentteja. Kirjoita ensimmäinen.

    Näytä lisää
    Luetuimmat
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      Helena löysi verkosta naisen, joka tykkäsi kaikesta, mitä hänen miehensä teki – sitten hän urkki lisää, järjesteli eron ja ”räjäytti pommin”

      Tilaajille
    2. 2

      Ylikohteliaat autoilijat väistävät usein pyöräilijöitä, vaikka laki sanoo toista – Nämä neljä tärkeää sääntöä suomalaiset usein unohtavat

    3. 3

      Presidentin entinen asianajaja myönsi maksaneensa kaksi naista hiljaiseksi Trumpin ohjauksessa – Tunnustus liittää Trumpin rikokseen, jolla pyrittiin vaikuttamaan vaaleihin

    4. 4

      Weekend-festivaalin järjestäminen Hieta­niemessä ei ollut viisasta: Näin omin silmin, kun nuoret juoksivat hautojen yli turva­miehiä karkuun

    5. 5

      Entinen ketjupolttaja Iina Puskala päätti juosta maratonin vuoden jokaisena päivänä, nyt takana on jo yli 280 maratonia – ”Ei ole helppoa eikä kivaa”

    6. 6

      Saako mieskriitikko haukkua naisartistin? Kulttuuritoimituksen esimies vastaa sosiaalisessa mediassa nousseeseen keskusteluun

    7. 7

      Natsien leirinvartija eli puoli vuosisataa tavallisena amerikkalaisena, kunnes hänestä tuli kansainvälinen hylkiö – Nyt 95-vuotias Jakiw Palij saapui Saksaan ja pääsee vanhainkotiin

    8. 8

      Helsingissä rakennetaan nyt uusia elokuva­teattereita ennen­näkemätöntä vauhtia – Muuttuuko ohjelmisto, lisääntyykö elokuvissa käynti ja laskeeko lipun­hinta?

    9. 9

      Kertotaulun tankkausta ja ruotsin epä­säännöllisiä verbejä 70 euron tunti­hintaan – maailmalla miljardi­luokkaan paisunut yksityis­opetus­bisnes on rantautumassa Suomeenkin

    10. 10

      Milloin on pakko erota? Eroajatukset voivat olla hätähuuto – asiantuntijat kertovat, milloin parisuhde on pelastettavissa

      Tilaajille
    11. Näytä lisää
    1. 1

      Jamie Oliveria syytetään kulttuurisesta omimisesta uuden mikroateriansa takia

    2. 2

      Ylikohteliaat autoilijat väistävät usein pyöräilijöitä, vaikka laki sanoo toista – Nämä neljä tärkeää sääntöä suomalaiset usein unohtavat

    3. 3

      Milloin on pakko erota? Eroajatukset voivat olla hätähuuto – asiantuntijat kertovat, milloin parisuhde on pelastettavissa

      Tilaajille
    4. 4

      Entinen ketjupolttaja Iina Puskala päätti juosta maratonin vuoden jokaisena päivänä, nyt takana on jo yli 280 maratonia – ”Ei ole helppoa eikä kivaa”

    5. 5

      Syntyvyyden laskuun löytyi uusi selitys: Vanhempien uupumus vaikuttaa lapsitoiveisiin

    6. 6

      Suomalaiset sopimus­juristit olivat ovelampia kuin amerikkalainen jätti­yhtiö, ja se pelasti Uuden­kaupungin auto­tehtaan – Tällainen on Valmet Automotiven ihmeellinen tarina

    7. 7

      Helena löysi verkosta naisen, joka tykkäsi kaikesta, mitä hänen miehensä teki – sitten hän urkki lisää, järjesteli eron ja ”räjäytti pommin”

      Tilaajille
    8. 8

      Festareiden silmiinpistävät: Weekendin Baywatch-asuiset naiset: “Olin hitain koulun uimatunnilla, mie en todellakaan pelasta ketään!”

    9. 9

      Annatko tilaa moottoritielle liittyvälle? Ohitus­kaistalle väistäjä voi saada jopa sakot

    10. 10

      Natsien leirinvartija eli puoli vuosisataa tavallisena amerikkalaisena, kunnes hänestä tuli kansainvälinen hylkiö – Nyt 95-vuotias Jakiw Palij saapui Saksaan ja pääsee vanhainkotiin

    11. Näytä lisää
    1. 1

      Kuplavolkkarin nimi oli Jenny, ja sen lokasuojassa kulki maailmalle jotain poikkeuksellista – Kolme suomalaista taltioi Tšekkoslovakian miehitystä 1968, ja nyt HS näyttää ainutlaatuisen materiaalin

      Tilaajille
    2. 2

      Solakka mies, joka myi huumeita, lakanoita ja seuraansa – Jari Sillanpään hovihankkija rakasti huippuhotelleja ja kärähti lapsipornosta

      Tilaajille
    3. 3

      ”Tule kotiin <3”, kirjoitti Eveliina Rimpeläinen – Sitä ennen hänen miehensä humalainen kaahailu oli katkennut piikkimattoon ja epäilyyn poliisin murhan yrityksestä

      Tilaajille
    4. 4

      Sikiön sydän löi, vaikka Susannan munanjohtimet oli poistettu – Lääkärit eivät ymmärrä, miten hän voi olla raskaana

      Tilaajille
    5. 5

      Hermostunut polkupyöräilijä pysäytti Onnibusin keskelle Mannerheimin­tietä, poliisi nuhteli osapuolet – ”Minusta oli täydellisen perusteltua jäädä kaistalle”

    6. 6

      Jamie Oliveria syytetään kulttuurisesta omimisesta uuden mikroateriansa takia

    7. 7

      Annatko tilaa moottoritielle liittyvälle? Ohitus­kaistalle väistäjä voi saada jopa sakot

    8. 8

      Helsinkiläiskoulu jakoi oppilaat eri ryhmiin sukupuolen mukaan – Jenni Korkeaojan lapsi lähti tunnille, jonka nimi on lukujärjestyksessä ”Pojat”

    9. 9

      Miksi lääkärit kirjaavat potilaskertomuksiin jopa huomioita potilaiden ulkonäöstä ja vaatetuksesta?

    10. 10

      ”Teen tyhjänpäiväistä mukatyötä” – Sari tekee viikon hommat päivässä, ja moni muukin kokee työnsä turhaksi

      Tilaajille
    11. Näytä lisää
    Uusimmat
    1. Juuri nyt
    2. Saako mieskriitikko haukkua naisartistin? Kulttuuritoimituksen esimies vastaa sosiaalisessa mediassa nousseeseen keskusteluun
    3. Entinen NBA-tähti väittää saaneensa 12 aivohalvausta ja kuusi sydänkohtausta – kertoo palaavansa ammattilaiskentille Kiinaan
    4. Siniset kertoivat maahanmuuttokantansa, mutta miten ne eroavat perussuomalaisista?
    5. Mitä jos Suomen tietoliikenneyhteydet menisivät poikki? Pankeille ehdotetaan varajärjestelmää, mutta finanssialan mielestä ehdotus on ajastaan jäljessä ja järjettömän kallis
    6. Maailman kallein hotelli aikoo veloittaa kahden viikon lomasta kymmenen miljoonaa euroa, ja syy siihen on sijainti Tilaajille
    7. Entinen ketjupolttaja Iina Puskala päätti juosta maratonin vuoden jokaisena päivänä, nyt takana on jo yli 280 maratonia – ”Ei ole helppoa eikä kivaa”
    8. Uudet elokuva­teatterit syntyvät hyvien kulku­yhteyksien päähän
    9. Tenniksen kattojärjestö ATP haluaa puuhastelijat ulos turnauksista, samalla suomalaisten asema vaikeutuu: ”Näkyykö valoa edes missään”
    10. 14 miljoonaa maksava kana ja muita ongelmia – Venezuela poisti valuutasta viisi nollaa, mutta talouskaaos tuskin ratkeaa
    11. Presidentin entinen asianajaja myönsi maksaneensa kaksi naista hiljaiseksi Trumpin ohjauksessa – Tunnustus liittää Trumpin rikokseen, jolla pyrittiin vaikuttamaan vaaleihin
    12. Näytä lisää