Algoritmit, ihmiset, ja vallankäyttö

Mitä algoritmit ovat ja miksi niistä pitäisi käydä yhteiskunnallista keskustelua?

Puhuin viime perjantaina meppi Liisa Jaakonsaaren järjestämässä “Älä elä kuplassa: Algoritmit ja digitaalinen sivistys EU:SSA” -seminaarissa. Saatuani kutsun tulla puhumaan algoritmeista, lupasin osallistua, kunhan puhuttaisiin myös ihmisistä ja vallankäytöstä.

Tässä muutama keskeinen ajatus esityskalvoja täydentämään:

1. Mitä algoritmit ovat?

Perinteisen teknisen määritelmän mukaan algoritmi on kuin resepti: yksityiskohtainen kuvaus tai ohje, jota seuraamalla tehtävä, prosessi tai ongelmanratkaisu suoritetaan. Tästä kelpaa esimerkiksi vaikka jakokulma. Nykyään algoritmeista puhuttaessa viitataan kuitenkin useammin oppiviin algoritmeihin ja koneoppimiseen: algoritmit oppivat ja kehittyvät käyttämänsä datan pohjalta, eivätkä lopputulokset siten ole samalla tavalla sääntömääräisiä kuin perinteinen määritelmä antaa ymmärtää.

Yhä useammin käytetään termiä algoritminen järjestelmä viittaamaan laajempaan kokonaisuuteen, joka pitää sisällään paitsi yksittäisiä koodinpätkiä, myös laajempia tietojärjestelmiä, ihmisiä, ja organisaatioita. Algoritmit eivät ole ympäristöstään irrallisia. On myös hyvä huomata, että siinä missä nyt puhutaan algoritmeista, muutama vuosi sitten puhuttiin big datasta. Paljolti on kyse samasta asiasta.

2. Algoritmeista puhuttaessa on puhuttava myös datasta

Algoritmeja tarvitaan, jotta voidaan käsitellä suuria määriä dataa, ja algoritmit tarvitsevat dataa toimiakseen ja oppiakseen. Niinpä algoritmeista puhuttaessa on puhuttava myös datasta:  Miten dataa tuotetaan & kootaan? Miten dataa luokitellaan & käytetään? Dataa tuotetaan ja kootaan yhä enemmän ja erilaisista tilanteista. Arkinen toimintamme jättää jälkiä, usein silloinkin, kun emme ajattele olevamme tekemisissä digitaalisten systeemien kanssa.

3. Kohtaamisemme algoritmien kanssa ovat arkisia, poliittisia, ja usein huomaamattomia

Google ja muut hakukoneet auttavat meitä löytämään tarvitsemaamme tietoa. Samalla ne kuitenkin määrittävät sitä, mitä näemme ja tiedämme. Ne heijastavat käyttämänsä datan vuoksi niitä ympäröivän yhteiskunnan vääristymiä, eivätkä ne toki ole itsekään neutraaleja välikäsiä. Facebookin uutisvirran kohdalla algoritmista sisällönkäsittelyä tarvitaan valikoimaan mediatulvasta kuvia ja kirjoituksia, jotka järjestelmä arvioi yksittäistä käyttäjää kiinnostaviksi. Pyrkiessään pitämään käyttäjät pauloissaan ja löytämään meitä kiinnostavia sisältöjä, Facebook voi päätyä vahvistamaan valintojamme (yhä enemmän kissavideoita kissavideoista pitäville).

Kolmantena esimerkkinä musiikkipalvelu Spotifyssakin toimintamme tuottaa dataa, joka ohjaa sitä, mitä meille tarjotaan. Emme ehkä ajattele tuottavamme dataa musiikkia kuunnellessa, mutta valintamme ovat osaltaan mukana palautekehässä, joka vahvistaa taipumuksiamme ja ohjaa sitä, millaisia uusia sisältöjä löydämme. Neljäntenä esimerkkinä tuotamme dataa myös kaupunkipyörällä ajellessa ja monissa muissa tilanteissa, joita emme ehkä tunnista digitaaliseksi vuorovaikutukseksi. Tuottamallamme datalla voi olla poliittisia seurauksia, kun sitä käytetään järjestelmien kehittämiseen. Jos vaikkapa kaupunkipyöräjärjestelmää kehitetään datavetoisesti, saatetaan päätyä vahvistamaan palvelua siellä, missä sitä on jo helppo käyttää, sen sijaan, että suunnattaisiin voimavarat sinne, missä tarve on suurin. Kenen ääni kuuluu ja huomaammeko tekevämme jotain poliittista silloin, kun arkisen toimintamme oheistuotteena syntyy dataa?

4. Teknologiaa on helpompi muuttaa kuin kulttuuria.

Kun puhutaan algoritmeista, ollaan usein huolissaan niiden vallasta ja vääristymistä, joita ne tuottavat. Yhteiskunnan vääristymät ja virheet löytävät kuitenkin tiensä myös digitaalisiin järjestelmiin. Esimerkiksi algoritmisten järjestelmien näkyväksi tekemä syrjintä on monesti lähtöisin datasta, jota järjestelmät käyttävät ja joka heijastaa yhteiskunnan historiallisia tai vallitsevia vinoutumia. Järjestelmiä voidaan muuttaa, jotta ne eivät vahvistaisi tai ylläpitäisi syrjintää, mutta syrjinnän kitkemiseksi on muutettava yhteiskuntaa laajemmin.

5. Algoritmiset järjestelmät muistuttavat byrokratiaa.

Tämänhetkisen algoritmikohinan keskellä on hyvä miettiä, mikä näissä järjestelmissä on oikeastaan uutta. Joiltain osin algoritmit muistuttavat byrokratiaa. On siis puhuttava siitä, miten algoritmit ja ihmiset toimivat yhdessä ja millaista valtaa toimintaan kulloinkin liittyy. Uhkana on, että puhumalla algoritmien vallasta vältytään puhumasta algoritmeista vallankäytön välineenä.

Lue lisää:

Hajaantukaa – täällä ei ole mitään nähtävää – algoritmikeskustelusta Suomessa (osa 1)

Screenshot 2017-03-15 11.42.35Algoritmit ovat kuuma aihe paitsi julkisessa keskustelussa, myös kansainvälisessä yhteiskuntatieteellisessä kirjallisuudessa. Pelkästään viime vuoden aikana julkaistiin ainakin kolme erikoisnumeroa, missä käsiteltiin algoritmeja ja niiden roolia yhteiskunnassa. Niin akateemisessa keskustelussa, kuin populaareissakin teksteissä on aistittavissa tietynlainen algoritmien musta magia. Algoritmit eivät ole mitään taikaotuksia jotka hallitsevat maailmaa. Algoritmi on Wikipedian ensimmäisen lauseen mukaan

yksityiskohtainen kuvaus tai ohje siitä, miten tehtävä tai prosessi suoritetaan; jota seuraamalla voidaan ratkaista tietty ongelma.

Maailma on siis täynnä digitaalisia ja vähemmän digitaalisia algoritmeja. Silti pääpaino tuntuu olevan digitaalisissa ympäristössä, kuten Kari Haakanan suomenkielisessä pohdinnassa, vaikka siinä taitavasti tuodaan yhteen jopa klassista teknologian tutkimuksen argumenttejä. On totta, että digitaalisuus todella muuttaa monia ympäröiviä tapahtumia ja algoritmit ovat digitaalisuudessa  keskeisessä roolissa. Vastaavia yksityiskohtaisia kuvauksia ja ohjeita ongelman ratkaisuun on kuitenkin  aina ollut olemassa.

Esimerkiksi Kelan viimeaikainen toimeentulotukisotku monine muotoineen herättää varsin paljon kysymyksiä toimeentulotuen laskennassa käytetystä algoritmista. En tiedä onko taustalla tietojärjestelmän sotkut vai muuten prosessisuo, mutta julkisuuteen nostetut esimerkit – kuten tarve myöntää henkilölle sentin toimeentulotuki maksusitoumusten saamiseksi eteenpäin  – kertovat, että ”algoritmi” ei nyt oikeastaan toimi erityisen järkevästi. Ehkä tässä tullaan keskeiseen huomioon, jota jo Jansson & Erlinngsson (2014) havaitsivat jo aiemmasta tutkimuksesta: haasteena digitaalisissa (sekä ei-digitaalisissa) algoritmeissa on sääntöjen joustamattomuus – usein todellinen maailma ei sopeudu tiukkaan algoritmin ajattelemaan muotoon.

Tässä kohtaa ehkä voi huokaista helpotuksesta, algoritmit ovat kuin todella tarkkoja byrokraatteja. Mutta missä sitten piilee digitalisaation suuri mullistus? Miksi algoritmit ovat niin tapetilla yhteiskuntatieteellisessä kirjallisuudessa ja miksi niistä vouhkotaan (juuri nyt) niin paljon?

On toki totta, että digitaalisten palveluiden myötä me kaikki altistumme mahdollisesti uudenlaiselle, näkymättömälle byrokratialle ja vallankäytölle. Uutta ehkä on, että nyt päätöksentekijänä voi olla joku kasvottomalta näyttävä järjestelmä (noh, en tiedä onko se Kela yhtään parempi esimerkki kasvollisesta järjestelmästä). Mutta, kuten useimmiten, kaiken takaa löytyy kuitenkin ihminen. Algoritmi on aina ihmistoimijoiden tuottama väline, joka toteuttaa ihmistoimijoiden suunnitteleman prosessin. Teknologia-alan demografian perusteella tuo ihmistoiija on melko varmasti valkoinen mies, vaikkei tosin keski-ikäinen. Ja tässä nyt ei ole mitään uutta taivaan alla, valitettavasti. Jyllääväthän valkoiset (keski-ikäiset) miehet monessa muussakin yhteiskunnan päätöksenteon koneessa.

Yhteiskuntatieteellinen mielenkiinto algoritmeihin selittyy niiden tuoreudella. Kyseessä on konkreettinen uusi ”esine”, jota mätkiä tutkimusmenetelmillä ja ajatuksilla. Ja tuoreet aiheet usein herättävät tutkijoiden mielenkiintoa, koska ne ovat uusia ja tuoreita. Toki on tutkimukselle myös tarvetta. Kuten Kitchin (2017) huomauttaa, kriittistä tutkimusta algoritmeista on vähän – varsinkin verrattuna kaikkeen muuhun algoritmitutkimukseen esimerkiksi tietojenkäsittelytieteessä ja insinööritieteissä. Pohdinkin siis,

  • Miten julkisessa keskustelussa käytetään sanaa algoritmi ja mitä sillä oikeastaan tarkoitetaan?
  • Miten perinteiset vallankäytön muodot soveltuvat algoritmien kritisoimsieen ja mitä uutta algoritmit tuovat esimerkiksi perinteiseen byrokratian ajatukseen?
  • Voisimmeko silti koettaa olla nostamasta algoritmia kultaiselle jalustalle ja sen sijaan purkaa mitä oikeastaan tarkoitamme sillä?

Postailen kevään aikana enemmän ajatuksiamme tästä aiheesta ja käsittelemme tematiikkaa myös meetupeissamme.

Alustatalous ja vallan uusjako

Perustuu puheenvuorooni Eduskunnan tulevaisuusvaliokunnalle jakamistaloudesta ja alustataloudesta.

Alustatalouden vaikutuksista käytävä keskustelu on pääsääntöisesti pohtinut taloudellisia, erityisesti verotukseen liittyviä vaikutuksia ja alustatoimijoiden lainmukaisuutta. Näiden lisäksi alustat teknologisina välineinä vaikuttavat myös arkipäiväisesti kansalaisten elämään. Esittelen lyhyesti tieteen ja teknologian tutkimuksen kirjallisuutta, jossa pohdiskellaan teknologiaa vallankäyttäjinä ja esittelen tätä kirjallisuutta alustatalouden näkökulmasta.

Teknologian kehittäminen vallankäyttönä

Tällä hetkellä alustataloudesta (platform economy) puhutaan paljon. Alusta yhdistää tuottajan ja kuluttajan ja tukee heidän arvoaan tuottavaa vuorovaikutusta (Evans 2011). Esimerkiksi kauppakeskusta voi pitää alustana. Digitaalisessa muodossa alustojen toiminta voi helposti ylittää perinteisiä sijaintiin ja aikaan liittyviä rajoitteita ja vähentää viestintäkuluja. Nämä muutokset ovat luonteenomaisia digitaalisille palveluille. Digitaaliset palvelut perustuvat teknologian soveltamiseen, ja sen vallan roolista on keskustelu paljon akateemisessa kirjallisuudessa.

Tieteen ja teknologian tutkijat (science and technology studies, STS) ovat korostaneet kuinka teknologiaa voidaan käyttää vallankäytön välineenä. Klassikko alalla on Winnerin (1985) essee “Do artifacts have politics?” jossa pohditaan suunnittelijan mahdollisuuksia käyttää valtaa käyttäjiä kohtaan. Hänen yksi keskeinen argumentti on ns. Winnerin silta, joka oli niin matala ettei julkinen liikenne voinut kulkea sen ali – eristäen näin osan kaupunkia autottomilta yhteiskuntaluokilta. Vaikka perusajatus onkin yksinkertainen, on samaa ajattelua sovellettu myöhemmin esimerkiksi algoritmien (esim. Gillespie 2012) osalta. Vaikkakin myöhempi kirjallisuus on korostanut, ettei kyseessä ole näin yksiselitteinen “teknologian määrittelee vallankäytön”-ajatus, on ilmeistä ettei teknologian kehittäjän valtaa ole syytä jättää huomiotta alustataloudessa. Esimerkiksi ajankohtainen akateeminen kirjallisuus kysyy, onko Netflixin suosittelualgoritmien kehitys muuttanut kulttuurin määrittelyn humanistisesta ongelmasta insinööritieteiden ongelmaksi (Hallinan & Striphas 2016).

Keskeiset alustatoimijat vallankäyttäjinä

Alustataloudessa keskeinen ominaisuus on monopolisoituminen ja voittavan alustan ylivoimaisuus (esim. Brynjolfsson & McAfee 2014). Voittavien alustojen kehittäjät myös käyttävät valtaa – tietoisesti tai tiedostamatta – liittyen erityisesti käyttäjän ja alustan vuorovaikutukseen. Esimerkkejä vallankäytöstä ovat

  • Miten käyttäjä tunnistetaan verkossa (esimerkiksi: Facebookin vaatimus “oikean nimen” käytöstä käyttäjien tunnuksissa 2012-2015)
  • Miten käyttäjien välistä vuorovaikutusta tuetaan alustan kautta (esimerkiksi: Uberin alustalla ei ole ollut mahdollista antaa juomarahaa kuljettajalle)
  • Minkä maan regulaation piirissä käyttäjän oletetaan toimivan (esimerkiksi: Airbnb:n käyttöehtojen mukaisesti sovelletaan Irlannin lakia)

Kuten esimerkeistä havaitaan, valta ilmenee niin käyttäjän ja järjestelmän kuin käyttäjän ja käyttäjän välisessä vuorovaikutuksessa, koska alustat määrittelevät ihmisten välisen vuorovaikutuksen muotoja. Edelleen, valtaa käytetään erilaisin välinein: muunmuassa alustan omien sääntöjen muodossa, muokkaamalla alustan toimintatapaa tai määrittelemällä alustan ja kansallisen lainsäädännön suhdetta. Samoin vallankäyttöä voivat olla loppukäyttäjälle näkymättömät muutokset alustan toiminnassa, kuten muutokset haussa tai käyttäjän mittaamisessa. Esimerkiksi Facebook voi muuttaa käyttäjänsä tunnetilaa muokkaamalla uutisvirran sisältöä (Kramer et al. 2014). Koska muokkaus käyttäjältä salassa, nostaa esimerkki esille vallankäytön haasteita erityisesti läpinäkyvyyden osalta.

Vallankäytön kannalta on kuitenkin syytä korostaa, ettei monia yllä kuvattuja muutoksia välttämättä pidettäisi vallankäyttönä, vaan normaalina alustan kehittämisenä ja alustan liiketoimintamallien suunnitteluna ja verifiointina (vertaa Hallinan & Striphas 2016) Olen tietoisesti valinnut hyvin kriittisen näkökulman voidakseni korostaa vallan ja alustaratkaisuiden välistä yhteyttä. Tällä hetkellä useat kuluttaja-alustapalvelut (mm. Google, Microsoft, Apple, Facebook, Amazon) ovat yhdysvaltalaisia ja tällöin alustaa koskevat  päätökset tehdään Yhdysvalloissa. Samaan aikaan alustatalouden keskeinen lupaus on globaali toiminta ja mahdollisuus skaalautua kansainvälisiksi, kansallisvaltioita suuremmiksi kokonaisuuksiksi.

Mikä on kansallisvaltioiden rooli?

Yksittäisen pienen valtion, kuten Suomen, mahdollisuudet vaikuttaa ylikansalliseen alustatoimijaan ovat vähäiset. Suomessa on ehdotettu sääntöjen soveltavaa tulkintaa alustatalouden toimijoita kohtaan, jotta voitaisiin tukea alustatalouden syntymistä Suomessa (esim. Allisto et al. 2016). Uskon, että kansainvälinen ulottuvuus, erityisesti Euroopan unioni, on mielekkäämpi tapa pyrkiä muokkaamaan alustatalouden toimintaympäristöä. Ensinnäkin, eurooppalainen yhteinen markkina-alue (European Digital Single Marketplace) tukisi myös Suomessa syntyviä alustatoimijoita. Toiseksi Euroopan unioni on onnistuneesti – vaikkakin hitaasti – pystynyt haastavaan toimijoita, kuten Microsoft yli kymmenen vuotta kestäneessä rajapintojen avoimuutta käsitelleessä prosessissa. Haasteena alustatoimijoiden säännöstelyssä voi kuitenkin olla jähmeys ja hitaus (julkishallinnon lainsäädäntötyössä, esimerkiksi Nelimarkka 2011). Usein säännöstely on reaktiivista, kun alustatoimijat ovat jo muodostaneet oman toimintatapansa. Olisikin tärkeää nopeuttaa kykyä reagoida uusiin alustatoimijoihin ja toimintatapoihin.

Avoimia kysymyksiä

  • Miten alustatalouden vallankäyttö näkyy ihmisten arjessa ja mitä regulaatiotarpeita tämä vallankäyttö nostaa esille?
  • Miten regulaatio voi puuttua digitaalisiin alustatoimijoihin, jos tarvetta?
  • Kuinka eurooppalaisella tasolla voi kehittää valtaa paremmin jakavia alustatalouden muotoja?

Viitteet

Evans, David S. 2011. Platform Economics: Essays on Multi-Sided Businesses. Competition Policy International.

Winner, L. (1985). Do artifacts have politics? In D. MacKenzie & J. Wajcman (Eds.), The social shaping of technology (pp. 26–38). Buckingham: Open University Press.

Gillespie, T. (2012). The relevance of algorithms. In Media Technologies: Essays on Communication, Materiality, and Society (pp. 167–194).

Hallinan, B., & Striphas, T. (2016). Recommended for you: The Netflix Prize and the production of algorithmic culture. New Media & Society, 18(1), 117–137.

Brynjolfsson, E., & McAfee, A. (2014). The second machine age: work, progress, and prosperity in a time of brilliant technologies. WW Norton & Company.

Kramer, Adam DI, Jamie E. Guillory, and Jeffrey T. Hancock (2014). “Experimental evidence of massive-scale emotional contagion through social networks.”Proceedings of the National Academy of Sciences 111(24), 8788-8790.

Ailisto, Heikki (toim.), Jari Collin  (toim.), Jari Juhanko (toim.), Martti Mäntylä (toim.), Sampsa Ruutu (toim.), Timo Seppälä (toim.), Marco Halén, Kari Hiekkanen, Kirsi Hyytinen,, Eeva Kiuru, Heidi Korhonen , Jukka Kääriäinen , Päivi Parviainen, Jaakko Talvitie: Onko Suomi jäämässä alustatalouden junasta? Valtioneuvoston selvitys- ja tutkimustoiminnan julkaisusarja 19/2016

Nelimarkka, M. (2011). Viranomaiset ja sähköinen kansalaisosallistuminen – asiantuntijahaastatteluiden perusteella luotu aktantiaalinen malli. Hallinnon Tutkimus, 30(2), 158–169.