Voivatko koneet aloittaa sodan? – Pekka Appelqvistin mukaan todellisuus on yhä kaukana terminatoreista
Keskustelua tekoälystä, robotiikasta ja automatisoidusta sodankäynnistä käydään usein mielikuvien varassa, sanoo Puolustusministeriön tutkimusjohtaja, professori Pekka Appelqvist.

Keskustelua tekoälystä, robotiikasta ja automatisoidusta sodankäynnistä käydään usein mielikuvien varassa, sanoo Puolustusministeriön tutkimusjohtaja, professori Pekka Appelqvist.

Voivatko koneet aloittaa sodan? – Pekka Appelqvistin mukaan todellisuus on yhä kaukana terminatoreista

Sotilaat haluavat myös autonomisten aseiden toimivan käskyjen mukaan. Tuomiopäivän näkymien sijasta tulevaisuudessa olla myös aseita, joihin on ohjelmoitu moraalikoodi.

Terminator -elokuvissa suurin osa ihmiskunnasta tuhoutuu, kun Skynet-niminen tietojärjestelmä tulee tietoiseksi itsestään ja päättää käynnistää ydinsodan. Skynet on alun perin kehitetty Yhdysvaltojen ilmapuolustuksen tueksi. Kun valittavana on robottien tai ihmisten maailma, Skynet valitsee robotit.

Puolustusministeriön tutkimusjohtaja, professori Pekka Appelqvist naurahtaa ja sanoo, että elokuvasarja on tuttu, ”alan opetuselokuva”. Tieteiselokuvat ovat kiinnostavia, mutta nyt hän haluaa painaa jarrua.

– Pienten lasten isänä nukun yhä yöni ihan rauhassa. Keskustelua tekoälystä, robotiikasta ja automatisoidusta sodankäynnistä käydään usein mielikuvien varassa. Todellisuus on tällaisesta maailmasta ainakin vielä kovin kaukana.

Appelqvist lisää kuitenkin, että äärimmäisten uhkien ja moraalisten kysymysten käsitteleminen on tärkeää.

– Tähän asti ihminen on ollut koneiden käyttäjä. Tulevaisuudessa teemme työtä entistä enemmän koneiden kanssa ja aiempaa tasa-arvoisempina kumppaneina tai jopa koneille alisteisina, eikä se ole automaattisesti huono asia.

Sotilaat haluavat pitää päätösvallan

Armeijoilla on toistaiseksi lähinnä kaukokäytettyjä aseita, joista vastaa ihminen, vaikka aseiden alusta, kuten lennokki, voikin toimia jo varsin autonomisesti.

– Maailmalla ei ole täyttä yksimielisyyttä, onko jo olemassa ensimmäisiä todella autonomisia eli itsenäiseen päätöksentekoon pohjautuvia asejärjestelmiä vai ovatko ne vasta tulossa. Se on määritelmäkysymys.

Hurjalta vaikuttavia aseita on kuitenkin jo olemassa tai kehitteillä. Yhdysvalloilla on miehittämätön pinta-alus Seahunter jahtaamassa sukellusveneitä, ja Venäjällä Poseidon-niminen miehittämätön ydintorpedo.

Kuuluisat ihmiset, kuten Elon Musk ovat varoittaneet tekoälystä ja tappajaroboteista.

Appelqvistin mukaan järjestäytyneillä armeijoilla on kuitenkin tarkasti varjeltu komentoketjunsa. Sotilaat haluavat pitää asiat viimeiseen asti omassa hallinnassaan.

– Asejärjestelmien autonomiselle toiminnalle on siten selkeät rajat eli koneiden tulee toimia käskyjen mukaan. Terroristinen käyttö voisi toki olla mahdollista, mutta terroristien suosikkiväline on viime aikoina ollut ihan tavallinen kuorma-auto, huomauttaa Appelqvist.

Appelqvistin mukaan asejärjestelmien lisääntyvä koneautonomia voi merkitä tuomiopäivän näkymien sijasta hyviä asioita. Toisen maailmansodan aikana käytössä olivat kokonaisia kaupunkeja tuhonneet massapommitukset. Sitten tulivat täsmäaseet, joiden oheisvaikutus tuhosi vain korttelin tai talon. Uuden teknologian avulla tuhovoima voi kohdentua tarkasti vain sinne, minne se on tarkoitettu.

– Teoreettisesti ajatellen nyt alkaisi olla mahdollista suunnitella aseita, joihin on ohjelmoitu myös moraalikoodistoa, Appelqvist sanoo.

Uuden aseteknologian käyttöä pyritään säätelemään samalla tavalla kuin perinteisempääkin tekniikkaa. Automatisoitujen aseidenkin pitäisi välttää turhia uhreja ja pysyä armeijoiden kontrollissa.

Uuden aseteknologian käyttöä pyritään säätelemään samalla tavalla kuin perinteisempääkin tekniikkaa. Automatisoitujen aseidenkin pitäisi välttää turhia uhreja ja pysyä armeijoiden kontrollissa.

Nopeus tuo riskejä

Tutkan kehitys johti aikanaan siihen, että sotilaat pystyivät näkemään vihollisen paljon kauempaa kuin omilla aisteillaan. Nyt koneiden avulla luodaan tilannekuvaa, minkä pohjalta pystytään nopeassa aikataulussa tekemään päätöksiä. Kone suodattaa ja priorisoi esimerkiksi lähestyvät ohjukset tai lentokoneet.

– Järjestelmä on silti täysin ihmisen kontrollissa eli kone antaa toimintasuosituksen, mutta ihminen päättää, mitä tekee. Voidaan kuitenkin kysyä, mikä on ihmisen tosiasiallinen merkitys tällaisessa järjestelmässä. Joissain tilanteissa ihmisen harkinta on keskeisessä osassa, mutta toisissa taas ei.

Koneet ovat nopeampia kuin ihmiset. Yksi huoli tässä on tilanteiden nopea eskaloituminen.

– Pekka Appelqvist

On kyse sitten perinteisestä tekniikasta tai monimutkaista laskentajärjestelmää hyödyntävästä pitkälle automatisoidusta tekniikasta ainakin yksi riski on yhteinen: nopeus. Kun asetekniikka kehittyy, ja esimerkiksi kehitetään entistä nopeampia ydinohjuksia, reagointiaika lyhenee.

– Koneet ovat nopeampia kuin ihmiset. Yksi huoli tässä on tilanteiden nopea eskaloituminen. En kuitenkaan usko, että yksikään järjestäytynyt sotaväki haluaisi kytkeä laajavaikutteisia aseita kuten ydinaseita täysin autonomisiin järjestelmiin eli siirtää päätösvaltaa koneille.

Mihin raja vedettäisiin?

Genevessä on käyty valtioiden välisiä neuvotteluja tavanomaisten aseiden rajoittamisesta. Neuvottelujen lähtökohtana on ollut, että koneautonomian takia ei sodan lakeja tarvitse keksiä uudestaan, vaan aiemmin sovitut periaatteet ovat sovellettavissa uusiinkin aseisiin.

Sodan humanitaarisilla säännöillä pyritään siihen, että aseiden käytössä vältettäisiin tarpeettomia uhreja ja kärsimystä. Tärkeä on myös suhteellisuusperiaate eli myöskään sotilaskohteisiin tehtävät iskut eivät saa olla ylimitoitettuja suhteessa operaation sotilaalliseen tavoitteeseen.

– Kun samaa tekniikkaa käytetään sekä siviilisovelluksissa että sotateknologiassa, on vaikea rajata kokonaista teknologiaa pois. Esimerkiksi teknologia, jolla pyritään liikenteen nollakuolemiin, voi sotatekniikassa olla toisenlaisessa käytössä. Tai yleiskäyttöiselle palvelurobotille voitaisiin antaa sotilaskäytössä rynnäkkökivääri. Mihin kohtaan raja teknologiassa vedetään?

– Kyse on myös siitä, millaisiin rajoituksiin suurvallat suostuvat. Suomi ja monet eurooppalaiset maat pyrkivät neuvotteluissa siihen, että valtioiden kesken annettaisiin yhteinen poliittinen julistus autonomisten asejärjestelmien käytön periaatteista.

Vaikka tulevaisuus voi tuoda tullessaan yllättäviä, hankalia ja vaarallisiakin asioita, Pekka Appelqvist on optimisti. Hän uskoo, että uudesta teknologiasta on ihmiselle enemmän hyötyä kuin haittaa. Vastuu on kuitenkin ihmisellä: meidän on tehtävä päätökset siitä, miten teknologiaa käytetään.

 

Lue myös kognitiotieteilijä Michael Laakasuon haastattelu: Tekoälyn kehittäjät tavoittelevat ihmismäistä ajattelua, mutta kukaan ei tiedä, onko lopputuloksena zombi vai mystikko

Jaa tämä artikkeli:

Lue lisää:

Kommentoi