Miten oppiva tekoäly muuttaa demokratiaa?

Kuinka hallinto ja politiikka muuttuvat teknologian kehityksen myötä? Kuka päättää tulevaisuudessa vallasta, oikeudenmukaisuudesta, vapaudesta tai muista läntisen demokratian peruspilareista, kysyy Jamie Susskind mielenkiintoisessa kirjassaan Future Politics. Living Together in a World Transformed by Tech (Oxford University Press 2018), josta olen varsin vähän kuullut puhuttavan meillä Suomessa.

Susskind väittää, että tekoälyn, virtuaalisen todellisuuden, lohkoketjujen ja muun vastaavan teknologian nopea ja vääjäämätön kehitys transformoi oleellisesti sitä, miten elämme yhdessä – kuten demokratiaa ja politiikkaa. Minkälaisen sisällön nämä saavat (lähi)tulevaisuudessa?

Siinä, missä 1900-luvulla läntisissä demokratioissa on kiistelty ja kipuiltu siitä, mikä on yhteiskunnallisen ja demokraattisen päätöksenteon ja markkinavoimien tasapaino, on tulevaisuuden keskeinen kysymys se, kuinka paljon kaikkialla kerättävä data ja sitä tehokkaasti varastoivat, sortteeraavat ja analysoivat digitaaliset koneet, laitteet ja järjestelmät voivat käyttää valtaa ja ohjata elämäämme ja yhteiskuntiamme.

Kuka kantaa vastuun, jos teknologia ottaa vallan?

Mutta mikä on näitä kehittävien yritysten ja yksilöiden eettinen ja moraalinen vastuu muulle ihmiskunnalle? Mikä on se normisto, joka niiden toimintaa ohjaa ja ketkä sitä luovat? Susskind pohtiikin, mikä on teknologian kehityksen hinta. Koska lainsäädäntö ja poliittinen keskustelu eivät pysy teknologisen kehityksen kannassa, asioita, jotka ennen kuuluivat demokraattiseen päätöksenteon ja määrittelyn piiriin, määrittävät yhä enenevässä määrin (suuret globaalit) yritykset, ja niiden insinöörit ja koodarit. Hän toteaa, ettemme ole vielä kypsiä älyltämme, filosofiselta saati moraaliselta punninnaltamme astumaan siihen maailmaan, jota nyt luomme nyt.

Digital is political.

Susskind ei vastusta teknologian kehitystä sinänsä, vaan haluaa herättää keskustelua aiheesta. Poliitikkojen ja lainsäätäjien tulisi perehtyä teknologiaan ymmärtääkseen sen mahdollisuuksia, eikä esittää vähätteleviä anteeksipyyntöjä siitä, etteivät he hallitse sitä – eivätkä nyt ole niin kiinnostuneitakaan. Digital is political.

Susskind kiteyttää teknologian vallan kolmeen ominaisuuteen: jatkuvasti kasvavaan potentiaaliin, yhä laajempaan läpäisevyyteen sekä kasvavaan mitattavuuteen, teknologisiin jälkiin, joita jo nyt jätämme kaikkialle.

Hyvät vai pahat algoritmit?

Algoritmit, jotka valitsevat, mitä dataa meille tarjotaan, muokkaavat ajatuksiamme, herättävät tunteitamme ja vaikuttavat niin käytökseemme kuin maailmankuvaamme. Sanomalehti, joka paperilla on sama kaikille, tarjoillaan kullekin digitaalisen jalanjälkemme jättämien preferenssien mukaan. Yhä lisääntyvät virtuaaliset jälkemme saavat meidät osin myös itse kontrolloimaan omaa käyttäytymistämme siinä pelossa, että saatamme saattaa itsemme häpeään tai joutua kiinni jopa rikoksista. Tämä ei sinänsä kuulosta niin kamalalta – kun tavoitteena on estää esimerkiksi virtuaalipedofiilista toimintaa, mitä esimerkkiä Susskind myös käyttää – mutta samaa teknologiaa voi käyttää joku muukin, ja määrittää, mikä on rikollista ja häpeällistä, mikä ei.

Mikä on tuntemamme ja virtuaalitodellisuuden raja?

Mikä ylipäätään on tämän tuntemamme ja virtuaalitodellisuuden raja, ovatko säännöt samoja? Myös yhteiskunnat voivat käyttää teknologiaa ja sen kautta jättämiämme jälkiä omiin monoteistisiin tarkoituksiinsa. Jo nyt Kiinassa teknologiaa on ohjelmoitu pisteyttämään kansalaisia esimerkiksi liikennekäyttäytymisen perusteella (ja annostelemaan wc-paperia Taivaallisen rauhan aukion saniteettitiloissa). Kontrollointi on tulevaisuudessa entistä helpompaa esineiden internetin aikakaudella eli silloin kun emme kytkeydy verkkoon on/off vaan jatkuvasti valpas tekoäly on kaikkialla ympärillämme, jopa itsessämme.

Kuka ohjaa autoa?

Teknologia voi myös pakottaa meidät käyttäytymään tietyllä tavalla ja määrittää vapauttamme. Tästä esimerkkinä kirjassa mainitaan itseohjautuva auto, joka kieltäytyy ajamasta yli säädetyn siitäkin huolimatta, että hetkellinen hätätilanne muuta vaatisi. Ehkä jatkossa jääkaappini kieltäytyy ottamasta vastaan tai säilyttämästä syömäkelpoisena punaista lihaa sen epäekologisuuden vuoksi tai ihonalainen siruni alkaa nytkiä jäseniäni, koska olen istunut paikallani liian kauan siitä huolimatta, että itse tuntisin oloni mukavaksi paikallani?

Amazon rekrytoi viisi vuotta tekoälyn avustamana ennen kuin huomattiin, että se hylkää jo kättelyssä hakijat, joiden CV:ssä oli viittaus naissukupuoleen. Ohjelmistoa luotaessa data parhaista työntekijöistä kerättiin silloiselta henkilöstöltä – miehiltä – niinpä algoritmit edellyttivät mieheyttä menestymisen edellytykseksi. Susskindin mukaan 75 % rekrytoinneista ylipäätään perustuu ensikierroksella automaatioon. Enenevässä määrin myös lainat ja vakuutukset käsitellään ainakin johonkin pisteeseen asti koneellisesti.

Yhteistä keskustelua vai poteroihin kaivautumista?

Poliittisessa keskustelussa voidaan kaiken muun totuuden vääristelyn lisäksi mm. blokata pois tiettyjä sanoja ja hashtageja oman viestin vahvistamiseksi. Nyt ja yhä enenevässä määrin tulevaisuudessa sosiaalinen media, hakukoneet ja virtuaalitodellisuuden alustat määrittävät maailmankuvaamme tarjoamalla ja peittämällä meiltä dataa ja informaatiota. Ero kybertodellisuuden ja ”oikean” todellisuuden välillä on häilyvä ja jatkossa yhä vaikeammin todennettavissa. Näkymätön käsi, uudenlainen “markkina”, kontrolloi havaintojamme. Ei ihme, että kaipaamme dialogia tämän entistä syvemmän poteroitumisen sijaan.

Uudenlaista demokratiaa

Tämä kaikki on mahdollista jo nyt, mitä itseoppia tekoäly tuokaan vielä tullessaan? Median ja vuorovaikutusvälineiden valta on ollut suuri aina ja uudet keksinnöt ovat avanneet ovia mm. kolonialismille, mahdollistihan kirjoitustaito normitetun byrokratian levittämisen yhä laajemmille alueille. Se, joka on etunenässä kehittänyt tai ottanut käyttöön vuorovaikutukseen tai mediaan liittyvää teknologiaa, on ollut vallankahvassa tai kehityksen kärjessä.

Tässä nykyisessä digihurmassa on mielestäni helppo leimata pienetkin epäröinnit ja keskustelunaloitukset suinpäin kohti uusia teknologioita ryntäämisestä vanhakantaiseksi ja muutosvastaiseksi. Susskind ei ole tekniikan vastainen vaan listaa myös teknologian hyötyjä laajalla rintamalla lääketieteestä ja juridiikasta arkiseen elämään.

Paluu demokratian juurille, ateenalaiseen agoraan – ainoastaan virtuaalisesti.

Teknologiaa voi hyödyntää myös uudenlaisen demokratian rakentamisessa, joka tavallaan palaa juurilleen ateenalaiseen agoraan, ainoastaan virtuaalisesti: mielipiteenilmaisu jonkin appin avulla mitä moninaisimmista asioista olisi mahdollista vaikka useamman kerran päivässä. Teknologia voisi hoitaa myös itse osan näistä äänestämisistä kerättyään minusta ja arvoistani riittävästi tietoa – edellyttäen, että itse verifioisin tiedon edelleen paikkansapitäväksi.

Ohjat omiin käsiin

Kirjan peruspointti on, että näiden ihmisten vuorovaikutukseen ja demokratian peruspilareihin – vapaus, valta ja oikeudenmukaisuus – vaikuttavien algoritmien pitää olla avoimia ja perusjärjellä ymmärrettäviä, ja arvot ja maailmankuva, johon ne perustuvat, nähtävissä. Meillä ei ole varaa jättäytyä kontrollimme ulottumattomissa olevan vallan leikkikaluksi, hän toteaa. Tarvitaan keskustelua, pohdintaa, ennakointia ja myös poliittisia päätöksiä.


Kirjoittaja: Liisa Virolainen | Kuvat: Gerd Altmann/Pixabay ja Soile Kallio

Liisa Virolainen
Liisa Virolainen työskentelee kehityspäällikkönä Kaiku-työelämäpalveluissa ja Uusi Kaikun päätoimittajana.
@LiisaVirolainen