Päätöksenteon tulevaisuus: Case autonomiset aseet ja päätöksenteon ulkoistaminen tekoälylle

Enenevässä määrin ulkoistamme päätöksentekomme tekoälylle tai käytämme sitä päätöksentekomme apuna. Tämä on enimmäkseen upeaa, sillä se helpottaa elämää. Autoni tuntuu tekevän monia päätöksiä puolestani. Vaikka vähän ärsyttääkin kun se ilmoittaa minulle päättäneensä polttoaineen vähyyden vuoksi laittaa lämmityksen pois päältä, niin on se kuitenkin käytännöllistä. Autoni lisäksi kännykkäni tuntuu päättävän monia asioita puolestani (mitä reittejä mennä ja milloin sammuttaa näyttö akun vähyyden takia). Google ja Facebook ovat päättäneet aiemman käyttäytymisen perusteella mitkä sisällöt näen ensimmäisenä. Monista selvistä eduista huolimatta päätöksenteon automatisointiin ja tekoälyn käyttöön liittyy muutamia ongelmia.

Sadankomitean, Rauhanliiton ja Helsingin Yliopiston 26.11.2018 järjestämässä ”Tekoälyn etiikka sodankäynnissä” –tilaisuudessa pohdittiin tekoälyn lisääntynyttä käyttöä sodankäynnissä ja siihen liittyviä eettisiä kysymyksiä. Tilaisuudesta tallennettu video löytyy täältä. Tekoälyn käyttöön liittyvät eettiset kysymykset ovat sinänsä mielenkiintoisia. Jos robotti tappaa, niin kuka on vastuussa: robotin suunnittelija, omistaja vai käyttäjä? Tämä problematiikka liittyy sodankäynnin lisäksi niin tulevaisuuden autoihin kuin moniin muihinkin rauhanomaisiin tilanteisiin. Itseäni teema kiinnostaa päätöksenteon kannalta ja pohdin tässä kirjoituksessa aseiden autonomisuuteen ja päätöksenteon ulkoistamiseen tekoälylle liittyviä kysymyksiä.

Autonomisten aseiden päätöksentekoon liittyviä ongelmia 

Antti Kauppinen[1] sanoi ”Tekoälyn etiikka sodankäynnissä”-seminaarissa, että autonomiset aseet eroavat automaattisista siinä, ettei niiden toiminta ole enää täysin ihmisten kontrolloitavissa. Jonkinnäköisen rajatapaus automaattisen ja autonomisen aseen välillä on ohjusten torjuntajärjestelmä, joka tunnistaa ohjuksen ja laukaisee välittömästi vastatoimet. Tässä on automaatio tarpeen, koska tarvittava reaktionopeus on usein suurempi kuin mihin ihmiset pystyvät.  Voimme melko pitkälti luottaa siihen, että ohjustentorjuntajärjestelmä erottaa ohjukset, lentokoneet ja linnut toisistaan (lähestyvät eri nopeuksilla). Hieman ongelmallisemmaksi tilanne on silloin kun asejärjestelmän (esimerkiksi dronen) pitää tunnistaa kohde ja päättää itsenäisesti mitä tekee kohteelle.

Tunnistamisvaiheessa pitää erottaa kohteet toisistaan; onko kyseessä Taleban sotilas, rosvojen varalta aseistautunut maanviljelijä vai sotaa leikkivä lapsi.  Tässä käytetään tekoälyä eli visuaalista luokittelua ja hahmontunnistusta. Tietokone tunnistaa jo hyvin hahmoja, mutta sitä voidaan myös hämätä. Tästä esimerkkinä on psykedeelisten tarrojen tapaus. Devin Coldewey kertoo aiheesta tarkemmin Techcrunch-blogissa[2]. Kun tekoäly tunnistaa kuvista esineitä, ne eivät kohtele joka pikseliä tasa-arvoisesti, vaan etsivät kuvista kaikkein erottelevimmat kohdat. Jos siis haluaa tekoälylle opettaa kuvista mitkä ovat taloja, niin ensin näytetään sille talonkuvia, se etsii niistä yhteiset piirteet ja melko pian se oppii tunnistamaan uusista kuvista talot. Ryhmä Googlen tutkijoita[3] oli kiinnostunut testaamaan voiko tietokonetta hämätä lisäämällä kuviin jotain outoa. He päätyivät lisäämään kuviin värikkäitä spiraaleja, ikään kuin tarroina. Nämä ovat niin erikoisia, että tekoäly huomasi ne ja unohti kaikki muut lajittelukriteerit toisarvoisina. Tämä on ongelma, sillä jos hahmojen tunnistamista pystyy tällä tavalla hämäämään ja systeemi onkin altis virheille, eikä kehittäjä ei pysty täysin sanomaan miten systeemi toimii, niin ei siihen pysty myöskään käyttäjä. 

Kun asejärjestelmä on tunnistanut kohteen, seuraa päätöksentekovaihe, missä sen pitää päättää mitä se tekee kohteelle eli hyökkääkö vai ei. Toisin sanoen yritetäänkö kohde tuhota ja millä tavalla. Tässä pitäisi ottaa huomioon monenlaisia riskianalyysejä ja myös eettisiä näkökantoja, joita ihminen pohtii, mutta kone ei. Jos tunnistettava terroristi on lapsijoukon keskellä ja hänen tuhoamisensa tappaa myös lapset, olisiko parempi odottaa toista tilaisuutta? Ihminen ehkä odottaisi, kone välttämättä ei. Päätöksenteon ohjelmointi on monimutkaista.

Päätöksenteon ulkoistaminen tekoälylle ei ole ongelmatonta

Kuten Anna-Mari Rusanen[4] huomautti ”Tekoälyn etiikka sodankäynnissä”-seminaarissa, että  tulevaisuuden sodankäynti (ja osin jo nykyajan) on tekoälyjärjestelmien läpitunkemaa: tappajarobotit, dronet, puolustussysteemit jne. Ei kuitenkaan ole kyse vain suurista systeemeistä kuten autonomiset aseet, vaan tekoäly on mukana hyvin monessa. Anna-Mari Rusanen sanoo, että tekoäly on yhä enemmän kapeaa tekoälyä, osa jotain systeemiä. Käytämme näitä systeemejä päätöksenteon apuvälineinä. Olemme toki käyttäneet päätöksenteon apuna monenlaisia yksinkertaisia laitteita läpi historiamme (suurennuslasit, mikroskoopit yms.) Nykyaikaiset laitteet eroavat näistä monimutkaisuuden ja itseohjautuvuuden takia. Laitteita käytetään apuna kun päätetään milloin aktivoidaan puolustusjärjestelmät, milloin lähetetään dronet ja miten valitaan kohteet. Olisi todella tärkeää ymmärtää miten nämä laitteet toimivat ja millaisia riskejä niihin liittyy. Kun tekoäly oppii, se käyttää algoritmejä. Algoritmit ovat kuitenkin alttiita vinoumille[5]. Joka kerta kun on epävarma tilanne ja meillä on ennuste tulevaisuudesta, joudutaan arvioimaan kuinka suurella todennäköisyydellä ennuste pitää paikkansa. Jos tekoäly on tekemässä ennusteita, keräämässä malleja ja dataa, niin tilanne monimutkaistuu.

Molemmat systeemin vaiheet eli tunnistaminen ja hyökkäyspäätös ovat ns. oppivia ja itseohjautuvia. Ihminen ei voi kontrolloida viimeiseen asti miten se toimii, kenen kimppuun hyökkää ja kenen ei. Jos meillä on autonominen ase, minkä toimintaa ei laitteenkäynnistäjä voi ennakoida, silloin ei löydy ketään joka olisi vastuussa jos se toimii ”väärällä” tavalla. . Valmistaja ei ole vastuussa, koska ei ole tehnyt mitään pahaa kenellekään. Myöskään komentajaa tai käyttäjää ei voida pitää vastuussa, koska he eivät pysty ennakoimaan mitä järjestelmä tekee.

Riskejä autonomisiin aseisiin liittyen

Aikaa ennen tekoälyä eli vuonna 1988 tapahtui kansainvälinen tragedia kun USS Vincennes vahingossa ampui alas Iranilaisen lentokoneen. Tähän tapahtumaan liittynyttä päätöksentekoa on tutkittu paljon. Ja sen seurauksena Yhdysvaltojen merivoimat päätti aloittaa TADMUS (= Tactical Decision Making Under Stress) -tutkimusohjelman päätöksenteosta[6]. Seuraavana vuonna 30 tutkijaa osallistui ohjelmaan ja pyrki löytämään yhtäläisyyksiä palopäälliköiden, ydinvoimalasuunnittelijoiden, moottoritiesuunnittelijoiden ja muiden ryhmien päätöksenteosta. Syntyi paljon arvokasta tietoa ihmisten päätöksentekokyvyistä paineen alla. Tekoälyn käyttäminen olisi saattanut estää onnettomuuden. Toisaalta tekoälyä käyttämällä saatetaan myös tehdä vastaavia virheitä. Joskus nämä virheet voivat olla kohtalokkaita. Neuvostoliitto käytti lavastamiaan Mainilan laukauksia syynä Talvisodan aloittamiseen. Mitä jos laukauksia ei olisikaan tarvinnut lavastaa, vaan räjähdysherkässä tilanteessa joku onneton drone olisi itseohjautuvasti päättänyt tuhota havaitsemansa uhan?

Autonomisia aseita kehitetään maailmalla kovaa vauhtia. Tällä hetkellä vaikuttaisi siltä, että niihin on varaa vain kaikkein isoimmilla mailla. Maailmanrauhan kannalta ongelmallista on, että kynnys sotien aloittamiseen pienenee. Tämä johtuu siitä, että autonomiset aseet vähentävät kaatuneiden omien sotilaiden määrää, koska sotia voidaan käydä etänä. Tutkija Anna-Mari Rusanen pitää ongelmana myös sitä, että ”maat, jotka eivät muutenkaan ole kovin kiinnostuneita eettisistä kysymyksistä” saattavat alkaa kehittelemään autonomisia aseita halvimmalla mahdollisella tavalla ja vähät välittää esimerkiksi siitä erotteleeko ase lapset ja sotilaat toisistaan. Toisaalta Suomen kaltaiselle pienelle maalle saattaisi olla hyvinkin kustannustehokasta liittää rajavalvontaan ja puolustusjärjestelmiin autonomisia systeemejä. Onkin hyvä erotella toisistaan tappamiseen liittyvät autonomiset systeemit ja esimerkiksi puolustusjärjestelmiin liittyvät aseita tuhoavat autonomiset systeemit .

Ps. Kiitos kuvasta khunaspix at free digital photos.

---

[1] Kauppinen, Antti (2018): Automaattiset aseet ja sodankäynnin etiikka, esitelmä Sadankomitean, Rauhanliiton ja Helsingin Yliopiston 26.11.2018 järjestämässä ”Tekoälyn etiikka sodankäynnissä” –tilaisuudessa. Antti Kauppinen on käytännöllisen filosofian professori Helsingin yliopistossa.

[2] Coldewey, Devin (2018): These psychedelic stickers blow AI minds, Techcrunch https://techcrunch.com/2018/01/02/these-psychedelic-stickers-blow-ai-minds/?guccounter=1

[3] Tom B. Brown, Dandelion Mané, Aurko Roy, Martín Abadi, Justin Gilmer (2017): ” Adversarial Patch”, artikkeli ja presentaatio, 31st Conference on Neural Information Processing Systems (NIPS 2017), Long Beach, CA, USA. https://arxiv.org/pdf/1712.09665.pdf

[4] Rusanen, Anna-Mari (2018): Ihminen tappajarobotin ohjaimissa -  Kognitiontutkijan näkökulma, esitelmä Sadankomitean, Rauhanliiton ja Helsingin Yliopiston 26.11.2018 järjestämässä ”Tekoälyn etiikka sodankäynnissä” –tilaisuudessa. Anna-Mari Rusanen on tieteenfilosofi ja kognitiontutkija, joka toimii kognitiotieteen yliopistonlehtorina Helsingin yliopistossa. Hän tutkii erilaisten tiedonkäsittelyjärjestelmien, kuten ihmisaivojen tai tekoälysovellusten, ominaisuuksia.

[5] Katso lisää algoritmien ongelmista Cathy O'Neilin kirjasta Matikkatuhoaseet.

[6] Tämä TADMUS-ohjelma ja sen taustat on kattavasti esitelty Collyer ja Maleckin kirjoittamassa artikkelissa ”Tactical decision making under stress: History and overview”, mikä puolestaan on julkaistu kirjassa ”Making decisions under stress: Implications for individual and team training”.

Vaimoni eroottinen potentiaali - päätöksentekoa Foenkinoksen kirjassa

David Foenkinoksen kirja ”Vaimoni eroottinen potentiaali” oli kiinnostava lukuelämys. Foenkinos edustaa ranskalainen nykykirjallisuutta. Hän on julkaissut noin 10 kirjaa. Kirjat ovat keveitä, hyvin ranskalaisia ja sisältävät nokkelaa huumoria. Takakannessa kirjailijaa verrataan Woody Alleniin. Yhtymäkohtia on ainakin päähenkilöiden neuroottisuus ja eläminen omassa todellisuuden kuplassaan. 

Päätöksentekoa kuvataan kirjassa melko kepeästi. Päähenkilö Hector rakastuu kirjastossa naiseen, päättää mennä tämän kanssa naimisiin samana päivänä, kertoo juhlallisesti työkavereilleen ja suvulleen ja kosii naista vasta seuraavana päivänä. Kuulostaa epäilyttävän ranskalaiselta. Päätös naimisiin menosta oli sikäli helppo, että jos tunnistaa vain yhden vaihtoehdon on päätös yleensä lähes automaattinen. Sitä vaan tietää, eikä vaihtoehtoja ole. Päätös on siis sen välillä meneekö naimisiin sen ainoan kanssa vai ei. Hector käyttää tunnistamisheuristiikkaa (recognition heuristic). Tästä päätöksentekotavasta ovat kirjoittaneet kattavasti Goldstein & Gigerenzer vuonna 2002[i] ilmestyneessä kirjassa Models of ecological rationality. 

Myöskään Hectorin toista suurta päätöstä, eli luopumista keräilyharrastuksesta, ei oikeastaan selitetä. Toki lukija tajuaa, että keräilyvimmasta aiheutuvat haitat näyttävät ylittävät keräilystä saatavat hyödyt. Tavallaan lukijalle siis maalaillaan kustannus-hyötyanalyysin (tai plussat ja miinukset – päätöksentekoheuristiikan =Frequency of good and bad features)  käyttöä, vaikka päähenkilö ei näitä tarkkaan ottaen listaakaan. Hectorin keräilyvimma hallitsee hänen tekemisiään. Keräilyyn liittyvä kilpailu toisten keräilijöiden kanssa ajaa hänet jopa itsemurhayritykseen. Keräilyvimman voi nähdä pakkomielteen tai ajatusten jumiutumisen metaforana. Aika monelle meistä on tuttua, että ajatukset jumiutuvat ja alkavat kiertää kehää. Vaikka kustannus-hyöty analyysi ehkä auttoikin Hectoria alitajuisesti, ei se auta silloin kun ajatukset kiertävät kehää. Jokainen tajuaa, että olisi parempi, ettei niin olisi. Jumiutuneita ajatuksia yleensä puretaan jonkin päätöksentekosysteemin avulla. Jotkut, kuten Hector, antavat eri vaihtoehdoille plussia ja miinuksia, toiset kouluarvosanoja. On myös mahdollista vertailla vaihtoja pareittain ja karsia aina huonoimman (joukkuelajeissa käytetty cup-systeemi).  Näistä ja muista päätöksentekotyypeistä kirjoitetaan tässä blogissa.

Hectorin rakkaus omaan vaimoon, saa hänet käyttäytymään kummallisesti. Hector alkaa keräillä mieleenpainuvia kuvia oman vaimonsa arkieroottisista hetkistä. Koska hän uskoo olevansa pakkomielteinen keräilijä, hän pitää omaa käyttäytymistään pakkomielteisenä. Tämä johtaa siihen, että hän myös alkaa käyttäytymään pakkomielteisesti. Ennakkokäsityksemme ja stereotypioiden käyttö määräävät usein hyvin pitkälle sen mitä asioita huomaamme ja miten tulkitsemme huomaamamme asiat. Tätä kirjassa kuvataan hienosti.

Kirjassa Hectorin vaimo Brigitte on hyvin viisas. Hän näkee Hectorin omituisuuden ja saa hänet uskomaan, että jokainen on kummallinen omalla tavallaan. Brigitte ymmärtää, että toimivassa perheessä on asiat balanssissa. Jos sinä annat minulle tämän, niin minä annan sinulle tuon. Perheen päätöksenteosta ja erityisesti reiluuden kehästä on kirjoittanut Chenting Su (2008)[ii] tutkijakollegoidensa kanssa.  Reiluuden kehä kuvaa hienosti sitä miten perheissä haetaan balanssia reiluuden välillä. Hetkellisesti voi olla reiluusvajetta, mutta pitkällä aikavälillä se pitää korjata tai se korjaantuu konflikteissa. Hector ja Brigitte kokevat suhteessaan vuorotellen vajausta, mutta saavat sen yleensä korjattua.  Kirjassa suhteen (ja vaimon) eroottinen potentiaali löytyy arjesta. Ehkä me kaikki olisimme onnellisempia, jos meillä olisi aikaa huomata pienet onnen ja erotiikan hetket arjessamme.

****

KustantajaGummerus esittelee kirjan seuraavasti: 

Hector on tavaroiden Don Juan. Hän on keräillyt kaikkea: metrolippuja, vaalikampanjamerkkejä, jäniksenkäpäliä, kroatialaisia sananparsia, cocktailtikkuja, aamuviiden ääniä. Kaikkea yhtä innokkaasti, koko olemassaolo huokuen kiihkoa ja vimmaa puhtaan euforian ja äärimmäisen masennuksen kausineen. Syvästä aallonpohjasta ponnistettuaan Hector saa tarpeekseen. Hän päättää lopettaa keräilyn tykkänään ja keskittää tarmonsa ainutlaatuisuuteen – vain huomatakseen ryhtyneensä keräilemään tuoretta vaimoaan Brigitteä. Kirjan alkuperäinen nimi on Le potentiel érotique de ma femme, siinä on 203 sivu ja sen on suomentanut Pirjo Thorel. Se on ilmestynyt vuonna 2004.

---

[i] Goldstein, D. G., & Gigerenzer, G. (2002). Models of ecological rationality: The recognition heuristic. Psychological Review, 109(1), 75-90

[ii] Su, Chenting & Zhou, Kevin Zheng & Zhou, Nan & Li, Julie Juan (2008): “Harmonizing conflict in husband-wife purchase decision making: perceived fairness and spousal influence dynamics”, Journal of the Academy of Marketing Science Fall2008, Vol. 36 Issue 3, p378-394

Harmillinen hopea: Miksi hopea harmittaa ja pronssi ilahduttaa?

On kiinnostavaa pohtia tilanteita, missä ihmiset, joilla on faktisesti asiat paremmin kuin toisilla, ovat tyytymättömämpiä tilanteeseensa. Kakkostila on parempi kuin kolmostila, mutta pronssimitalistit ovat tyytyväisempiä kuin hopeamitalistit. Joukkuelajeissa, missä pelataan loppuottelu ja pronssiottelu, ei ole ollenkaan outoa hopeamitalisteja harmittaa ja pronssin saaneet iloitsevat. Hopeamitalistit ovat juuri hävinneet pelin (ja kullan) ja pronssimitalistit ovat voittaneet ottelun (ja mitalin). Kiinnostavaa sen sijaan on se, että sama ilmiö on havaittavissa myös yksilölajeissa: juoksussa, pituushypyssä jne. Medvec et al (1995)[1] ovat tutkineet hopea- ja pronssimitalistien tuntemuksia vuoden 1992 kesäolympialaisissa. Tutkimuksessa selvisi kiistatta, että pronssimitalistit olivat tyytyväisempiä suoritukseensa kuin hopeamitalistit riippumatta lajista.

Mitä jos -ajattelu selityksenä 

Tutkittaessa ihmisten ristiriitaista ajattelua on huomattu, että tyytyväisyyteen vaikuttaa paljon ”mitä jos -ajattelu” (englanniksi what might have been). Aihetta ovat tutkineet esimerkiksi Kahneman & Miller (1986)[2] ja Johnson (1986)[3]. Neal Roese ja James Olsen ovat jopa kirjoittaneet aiheesta kirjan (2014)[4].  Mitä jos –ajattelu on tyypillistä kaikille ihmisille, mietitään, että jos olisin lähtenyt viisi minuuttia myöhemmin olisin ollut kolarissa (tai välttänyt sen) jne. Ihmiset pohtivat vaihtoehtoisia lopputuloksia ja mitä helpompi heidän on kuvitella niitä, sitä tyytymättömämpiä he ovat huonoon lopputulokseen (Kahneman & Tversky (1998)[5]).

”Harmillinen hopea ja iloinen pronssi” –ilmiö selittyy pitkälti mitä jos –ajattelun avulla. Medvec et al (1995) selittävät ilmiötä sillä, että hopean vaihtoehto on kullan voittaminen ja pronssin vaihtoehto on mitalitta jääminen. Hopeamitalisti vertaa itseään kultamitalistiin, ja miettii mitä olisi voinut tapahtua. Voittamisen ja hopean välinen ero on niin suuri. Hän saattaa myös miettiä, mitä jos olisi tullut pronssille, mutta tämä ero ei ole niin suuri – molemmat ovat mitaleita – ettei sillä ole paljoa merkitystä. Pronssimitalisti taas vertaa itseään nelossijaan ja on tyytyväinen pronssiin, koska se on huomattavasti parempi kuin jääminen ilman mitalia. Vaikka hän saattaa verrata myös ylöspäin hopeaan, ei tämä ole niin merkittävää, koska ero hopean ja pronssin välillä ei ole niin suuri kuin pronssin ja nelossijan. Tämä asymmetrinen vertaaminen (hopea ylöspäin ja pronssi alaspäin) saattaa aiheuttaa sen, että henkilö, joka on faktuaalisesti huonommassa asemassa (pronssilla) on tyytyväisempi lopputulokseen kuin henkilö joka on paremmassa asemassa (hopealla). Hopeamitalisti ajattelee ”If only”, ”Why didn’t I just…” ja pronssimitalisti ajattelee ”At least I won the medal”. Tällöin voidaan siis ajatella, että ”less is more”. Medvec et al (1995) tutkivat haastatteluja kilpailun jälkeen toisissa olympialaisissa (kesä 1992) koodasivat haastateltavien sanomat ”I almost ” hopeamitalistille ja ”At least I” pronssimitalistille. Tulokset tukivat yllä esitettyä ajatusta, että hopeamitalistit ajattelevat menetettyä mitalia ja pronssimitalistit lohduttautuvat mitalin saamisella.

Nämä samat tulokset pätevät muissakin elämäntilanteissa. Ihminen joka arvaa menestyksekkäästi kuusi numeroa seitsemästä lotossa on todennäköisesti pettynyt, samoin kuin henkilö joka myöhästyy koneesta vain minuutteja on pettyneempi kuin henkilö joka myöhästyy puoli tuntia.  

---

[1] Medvec, Victoria & Husted, Scott F. & Madey & Thomas Gilovich (1995): "When less is more: counterfactual thinking and satisfaction among Olympic medalists." Journal of personality and social psychology 69.4 (1995): 603.

[2] Kahneman, Daniel & Miller, Dale T. (1986) "Norm theory: Comparing reality to its alternatives." Psychological review 93.2 (1986): 136.

[3] Johnson, Joel T. (1986): "The knowledge of what might have been: Affective and attributional consequences of near outcomes." Personality and Social Psychology Bulletin 12.1 (1986): 51-62.

[4] Roese, Neal J., and James M. Olson, eds. (2014): What might have been: The social psychology of counterfactual thinking. Psychology Press, 2014.

[5] Kahneman, Daniel; Tversky, Amos (1998). "The simulation heuristic". In Daniel Kahneman; Paul Slovic; Amos Tversky. Judgment under uncertainty: heuristics and biases. Cambridge: Cambridge University Press