Algoritmit, ihmiset, ja vallank√§ytt√∂

Mitä algoritmit ovat ja miksi niistä pitäisi käydä yhteiskunnallista keskustelua?

Puhuin viime perjantaina meppi Liisa Jaakonsaaren j√§rjest√§m√§ss√§¬†“√Ąl√§ el√§ kuplassa: Algoritmit ja digitaalinen sivistys EU:SSA”¬†-seminaarissa. Saatuani kutsun tulla puhumaan algoritmeista, lupasin osallistua, kunhan puhuttaisiin my√∂s ihmisist√§ ja vallank√§yt√∂st√§.

Tässä muutama keskeinen ajatus esityskalvoja täydentämään:

1. Mitä algoritmit ovat?

Perinteisen teknisen määritelmän mukaan algoritmi on kuin resepti: yksityiskohtainen kuvaus tai ohje, jota seuraamalla tehtävä, prosessi tai ongelmanratkaisu suoritetaan. Tästä kelpaa esimerkiksi vaikka jakokulma. Nykyään algoritmeista puhuttaessa viitataan kuitenkin useammin oppiviin algoritmeihin ja koneoppimiseen: algoritmit oppivat ja kehittyvät käyttämänsä datan pohjalta, eivätkä lopputulokset siten ole samalla tavalla sääntömääräisiä kuin perinteinen määritelmä antaa ymmärtää.

Yhä useammin käytetään termiä algoritminen järjestelmä viittaamaan laajempaan kokonaisuuteen, joka pitää sisällään paitsi yksittäisiä koodinpätkiä, myös laajempia tietojärjestelmiä, ihmisiä, ja organisaatioita. Algoritmit eivät ole ympäristöstään irrallisia. On myös hyvä huomata, että siinä missä nyt puhutaan algoritmeista, muutama vuosi sitten puhuttiin big datasta. Paljolti on kyse samasta asiasta.

2. Algoritmeista puhuttaessa on puhuttava myös datasta

Algoritmeja tarvitaan, jotta voidaan käsitellä suuria määriä dataa, ja algoritmit tarvitsevat dataa toimiakseen ja oppiakseen. Niinpä algoritmeista puhuttaessa on puhuttava myös datasta:  Miten dataa tuotetaan & kootaan? Miten dataa luokitellaan & käytetään? Dataa tuotetaan ja kootaan yhä enemmän ja erilaisista tilanteista. Arkinen toimintamme jättää jälkiä, usein silloinkin, kun emme ajattele olevamme tekemisissä digitaalisten systeemien kanssa.

3. Kohtaamisemme algoritmien kanssa ovat arkisia, poliittisia, ja usein huomaamattomia

Google ja muut hakukoneet auttavat meitä löytämään tarvitsemaamme tietoa. Samalla ne kuitenkin määrittävät sitä, mitä näemme ja tiedämme. Ne heijastavat käyttämänsä datan vuoksi niitä ympäröivän yhteiskunnan vääristymiä, eivätkä ne toki ole itsekään neutraaleja välikäsiä. Facebookin uutisvirran kohdalla algoritmista sisällönkäsittelyä tarvitaan valikoimaan mediatulvasta kuvia ja kirjoituksia, jotka järjestelmä arvioi yksittäistä käyttäjää kiinnostaviksi. Pyrkiessään pitämään käyttäjät pauloissaan ja löytämään meitä kiinnostavia sisältöjä, Facebook voi päätyä vahvistamaan valintojamme (yhä enemmän kissavideoita kissavideoista pitäville).

Kolmantena esimerkkinä musiikkipalvelu Spotifyssakin toimintamme tuottaa dataa, joka ohjaa sitä, mitä meille tarjotaan. Emme ehkä ajattele tuottavamme dataa musiikkia kuunnellessa, mutta valintamme ovat osaltaan mukana palautekehässä, joka vahvistaa taipumuksiamme ja ohjaa sitä, millaisia uusia sisältöjä löydämme. Neljäntenä esimerkkinä tuotamme dataa myös kaupunkipyörällä ajellessa ja monissa muissa tilanteissa, joita emme ehkä tunnista digitaaliseksi vuorovaikutukseksi. Tuottamallamme datalla voi olla poliittisia seurauksia, kun sitä käytetään järjestelmien kehittämiseen. Jos vaikkapa kaupunkipyöräjärjestelmää kehitetään datavetoisesti, saatetaan päätyä vahvistamaan palvelua siellä, missä sitä on jo helppo käyttää, sen sijaan, että suunnattaisiin voimavarat sinne, missä tarve on suurin. Kenen ääni kuuluu ja huomaammeko tekevämme jotain poliittista silloin, kun arkisen toimintamme oheistuotteena syntyy dataa?

4. Teknologiaa on helpompi muuttaa kuin kulttuuria.

Kun puhutaan algoritmeista, ollaan usein huolissaan niiden vallasta ja vääristymistä, joita ne tuottavat. Yhteiskunnan vääristymät ja virheet löytävät kuitenkin tiensä myös digitaalisiin järjestelmiin. Esimerkiksi algoritmisten järjestelmien näkyväksi tekemä syrjintä on monesti lähtöisin datasta, jota järjestelmät käyttävät ja joka heijastaa yhteiskunnan historiallisia tai vallitsevia vinoutumia. Järjestelmiä voidaan muuttaa, jotta ne eivät vahvistaisi tai ylläpitäisi syrjintää, mutta syrjinnän kitkemiseksi on muutettava yhteiskuntaa laajemmin.

5. Algoritmiset järjestelmät muistuttavat byrokratiaa.

Tämänhetkisen algoritmikohinan keskellä on hyvä miettiä, mikä näissä järjestelmissä on oikeastaan uutta. Joiltain osin algoritmit muistuttavat byrokratiaa. On siis puhuttava siitä, miten algoritmit ja ihmiset toimivat yhdessä ja millaista valtaa toimintaan kulloinkin liittyy. Uhkana on, että puhumalla algoritmien vallasta vältytään puhumasta algoritmeista vallankäytön välineenä.

Lue lisää:

Hajaantukaa ‚Äď t√§√§ll√§ ei ole mit√§√§n n√§ht√§v√§√§ – algoritmikeskustelusta Suomessa (osa 1)

Screenshot 2017-03-15 11.42.35Algoritmit ovat kuuma aihe paitsi julkisessa keskustelussa, myös kansainvälisessä yhteiskuntatieteellisessä kirjallisuudessa. Pelkästään viime vuoden aikana julkaistiin ainakin kolme erikoisnumeroa, missä käsiteltiin algoritmeja ja niiden roolia yhteiskunnassa. Niin akateemisessa keskustelussa, kuin populaareissakin teksteissä on aistittavissa tietynlainen algoritmien musta magia. Algoritmit eivät ole mitään taikaotuksia jotka hallitsevat maailmaa. Algoritmi on Wikipedian ensimmäisen lauseen mukaan

yksityiskohtainen kuvaus tai ohje siitä, miten tehtävä tai prosessi suoritetaan; jota seuraamalla voidaan ratkaista tietty ongelma.

Maailma on siis täynnä digitaalisia ja vähemmän digitaalisia algoritmeja. Silti pääpaino tuntuu olevan digitaalisissa ympäristössä, kuten Kari Haakanan suomenkielisessä pohdinnassa, vaikka siinä taitavasti tuodaan yhteen jopa klassista teknologian tutkimuksen argumenttejä. On totta, että digitaalisuus todella muuttaa monia ympäröiviä tapahtumia ja algoritmit ovat digitaalisuudessa  keskeisessä roolissa. Vastaavia yksityiskohtaisia kuvauksia ja ohjeita ongelman ratkaisuun on kuitenkin  aina ollut olemassa.

Esimerkiksi Kelan viimeaikainen toimeentulotukisotku monine muotoineen her√§tt√§√§ varsin paljon kysymyksi√§ toimeentulotuen laskennassa k√§ytetyst√§ algoritmista. En tied√§ onko taustalla tietoj√§rjestelm√§n sotkut vai muuten prosessisuo, mutta julkisuuteen nostetut esimerkit ‚Äď kuten tarve my√∂nt√§√§ henkil√∂lle sentin toimeentulotuki maksusitoumusten saamiseksi eteenp√§in¬† ‚Äď kertovat, ett√§ ‚ÄĚalgoritmi‚ÄĚ ei nyt oikeastaan toimi erityisen j√§rkev√§sti. Ehk√§ t√§ss√§ tullaan keskeiseen huomioon, jota jo Jansson & Erlinngsson (2014)¬†havaitsivat jo aiemmasta tutkimuksesta: haasteena digitaalisissa (sek√§ ei-digitaalisissa) algoritmeissa on s√§√§nt√∂jen joustamattomuus ‚Äď usein todellinen maailma ei sopeudu tiukkaan algoritmin ajattelemaan muotoon.

Tässä kohtaa ehkä voi huokaista helpotuksesta, algoritmit ovat kuin todella tarkkoja byrokraatteja. Mutta missä sitten piilee digitalisaation suuri mullistus? Miksi algoritmit ovat niin tapetilla yhteiskuntatieteellisessä kirjallisuudessa ja miksi niistä vouhkotaan (juuri nyt) niin paljon?

On toki totta, että digitaalisten palveluiden myötä me kaikki altistumme mahdollisesti uudenlaiselle, näkymättömälle byrokratialle ja vallankäytölle. Uutta ehkä on, että nyt päätöksentekijänä voi olla joku kasvottomalta näyttävä järjestelmä (noh, en tiedä onko se Kela yhtään parempi esimerkki kasvollisesta järjestelmästä). Mutta, kuten useimmiten, kaiken takaa löytyy kuitenkin ihminen. Algoritmi on aina ihmistoimijoiden tuottama väline, joka toteuttaa ihmistoimijoiden suunnitteleman prosessin. Teknologia-alan demografian perusteella tuo ihmistoiija on melko varmasti valkoinen mies, vaikkei tosin keski-ikäinen. Ja tässä nyt ei ole mitään uutta taivaan alla, valitettavasti. Jyllääväthän valkoiset (keski-ikäiset) miehet monessa muussakin yhteiskunnan päätöksenteon koneessa.

Yhteiskuntatieteellinen mielenkiinto algoritmeihin selittyy niiden tuoreudella. Kyseess√§ on konkreettinen uusi ‚ÄĚesine‚ÄĚ, jota m√§tki√§ tutkimusmenetelmill√§ ja ajatuksilla. Ja tuoreet aiheet usein her√§tt√§v√§t tutkijoiden mielenkiintoa, koska ne ovat uusia ja tuoreita. Toki on tutkimukselle my√∂s tarvetta. Kuten Kitchin (2017) huomauttaa, kriittist√§ tutkimusta algoritmeista on v√§h√§n ‚Äď varsinkin verrattuna kaikkeen muuhun algoritmitutkimukseen esimerkiksi tietojenk√§sittelytieteess√§ ja insin√∂√∂ritieteiss√§.¬†Pohdinkin siis,

  • Miten julkisessa keskustelussa k√§ytet√§√§n sanaa algoritmi ja mit√§ sill√§ oikeastaan tarkoitetaan?
  • Miten perinteiset vallank√§yt√∂n muodot soveltuvat algoritmien kritisoimsieen ja mit√§ uutta algoritmit tuovat esimerkiksi perinteiseen byrokratian ajatukseen?
  • Voisimmeko silti koettaa olla nostamasta algoritmia kultaiselle jalustalle ja sen sijaan purkaa mit√§ oikeastaan tarkoitamme sill√§?

Postailen kevään aikana enemmän ajatuksiamme tästä aiheesta ja käsittelemme tematiikkaa myös meetupeissamme.

Alustatalous ja vallan uusjako

Perustuu puheenvuorooni Eduskunnan tulevaisuusvaliokunnalle jakamistaloudesta ja alustataloudesta.

Alustatalouden vaikutuksista käytävä keskustelu on pääsääntöisesti pohtinut taloudellisia, erityisesti verotukseen liittyviä vaikutuksia ja alustatoimijoiden lainmukaisuutta. Näiden lisäksi alustat teknologisina välineinä vaikuttavat myös arkipäiväisesti kansalaisten elämään. Esittelen lyhyesti tieteen ja teknologian tutkimuksen kirjallisuutta, jossa pohdiskellaan teknologiaa vallankäyttäjinä ja esittelen tätä kirjallisuutta alustatalouden näkökulmasta.

Teknologian kehittäminen vallankäyttönä

Tällä hetkellä alustataloudesta (platform economy) puhutaan paljon. Alusta yhdistää tuottajan ja kuluttajan ja tukee heidän arvoaan tuottavaa vuorovaikutusta (Evans 2011). Esimerkiksi kauppakeskusta voi pitää alustana. Digitaalisessa muodossa alustojen toiminta voi helposti ylittää perinteisiä sijaintiin ja aikaan liittyviä rajoitteita ja vähentää viestintäkuluja. Nämä muutokset ovat luonteenomaisia digitaalisille palveluille. Digitaaliset palvelut perustuvat teknologian soveltamiseen, ja sen vallan roolista on keskustelu paljon akateemisessa kirjallisuudessa.

Tieteen ja teknologian tutkijat (science and technology studies, STS) ovat korostaneet kuinka teknologiaa voidaan k√§ytt√§√§ vallank√§yt√∂n v√§lineen√§. Klassikko alalla on Winnerin (1985) essee ‚ÄúDo artifacts have politics?‚ÄĚ jossa pohditaan suunnittelijan mahdollisuuksia k√§ytt√§√§ valtaa k√§ytt√§ji√§ kohtaan. H√§nen yksi keskeinen argumentti on ns. Winnerin silta, joka oli niin matala ettei julkinen liikenne voinut kulkea sen ali – erist√§en n√§in osan kaupunkia autottomilta yhteiskuntaluokilta. Vaikka perusajatus onkin yksinkertainen, on samaa ajattelua sovellettu my√∂hemmin esimerkiksi algoritmien (esim. Gillespie 2012) osalta. Vaikkakin my√∂hempi kirjallisuus on korostanut, ettei kyseess√§ ole n√§in yksiselitteinen ‚Äúteknologian m√§√§rittelee vallank√§yt√∂n‚ÄĚ-ajatus, on ilmeist√§ ettei teknologian kehitt√§j√§n valtaa ole syyt√§ j√§tt√§√§ huomiotta alustataloudessa. Esimerkiksi ajankohtainen akateeminen kirjallisuus kysyy, onko Netflixin suosittelualgoritmien kehitys muuttanut kulttuurin m√§√§rittelyn humanistisesta ongelmasta insin√∂√∂ritieteiden ongelmaksi (Hallinan & Striphas 2016).

Keskeiset alustatoimijat vallankäyttäjinä

Alustataloudessa keskeinen ominaisuus on monopolisoituminen ja voittavan alustan ylivoimaisuus (esim. Brynjolfsson & McAfee 2014). Voittavien alustojen kehittäjät myös käyttävät valtaa Рtietoisesti tai tiedostamatta Рliittyen erityisesti käyttäjän ja alustan vuorovaikutukseen. Esimerkkejä vallankäytöstä ovat

  • Miten k√§ytt√§j√§ tunnistetaan verkossa (esimerkiksi: Facebookin vaatimus ‚Äúoikean nimen‚ÄĚ k√§yt√∂st√§ k√§ytt√§jien tunnuksissa 2012-2015)
  • Miten k√§ytt√§jien v√§list√§ vuorovaikutusta tuetaan alustan kautta (esimerkiksi: Uberin alustalla ei ole ollut mahdollista antaa juomarahaa kuljettajalle)
  • Mink√§ maan regulaation piiriss√§ k√§ytt√§j√§n oletetaan toimivan (esimerkiksi: Airbnb:n k√§ytt√∂ehtojen mukaisesti sovelletaan Irlannin lakia)

Kuten esimerkeistä havaitaan, valta ilmenee niin käyttäjän ja järjestelmän kuin käyttäjän ja käyttäjän välisessä vuorovaikutuksessa, koska alustat määrittelevät ihmisten välisen vuorovaikutuksen muotoja. Edelleen, valtaa käytetään erilaisin välinein: muunmuassa alustan omien sääntöjen muodossa, muokkaamalla alustan toimintatapaa tai määrittelemällä alustan ja kansallisen lainsäädännön suhdetta. Samoin vallankäyttöä voivat olla loppukäyttäjälle näkymättömät muutokset alustan toiminnassa, kuten muutokset haussa tai käyttäjän mittaamisessa. Esimerkiksi Facebook voi muuttaa käyttäjänsä tunnetilaa muokkaamalla uutisvirran sisältöä (Kramer et al. 2014). Koska muokkaus käyttäjältä salassa, nostaa esimerkki esille vallankäytön haasteita erityisesti läpinäkyvyyden osalta.

Vallankäytön kannalta on kuitenkin syytä korostaa, ettei monia yllä kuvattuja muutoksia välttämättä pidettäisi vallankäyttönä, vaan normaalina alustan kehittämisenä ja alustan liiketoimintamallien suunnitteluna ja verifiointina (vertaa Hallinan & Striphas 2016) Olen tietoisesti valinnut hyvin kriittisen näkökulman voidakseni korostaa vallan ja alustaratkaisuiden välistä yhteyttä. Tällä hetkellä useat kuluttaja-alustapalvelut (mm. Google, Microsoft, Apple, Facebook, Amazon) ovat yhdysvaltalaisia ja tällöin alustaa koskevat  päätökset tehdään Yhdysvalloissa. Samaan aikaan alustatalouden keskeinen lupaus on globaali toiminta ja mahdollisuus skaalautua kansainvälisiksi, kansallisvaltioita suuremmiksi kokonaisuuksiksi.

Mikä on kansallisvaltioiden rooli?

Yksittäisen pienen valtion, kuten Suomen, mahdollisuudet vaikuttaa ylikansalliseen alustatoimijaan ovat vähäiset. Suomessa on ehdotettu sääntöjen soveltavaa tulkintaa alustatalouden toimijoita kohtaan, jotta voitaisiin tukea alustatalouden syntymistä Suomessa (esim. Allisto et al. 2016). Uskon, että kansainvälinen ulottuvuus, erityisesti Euroopan unioni, on mielekkäämpi tapa pyrkiä muokkaamaan alustatalouden toimintaympäristöä. Ensinnäkin, eurooppalainen yhteinen markkina-alue (European Digital Single Marketplace) tukisi myös Suomessa syntyviä alustatoimijoita. Toiseksi Euroopan unioni on onnistuneesti Рvaikkakin hitaasti Рpystynyt haastavaan toimijoita, kuten Microsoft yli kymmenen vuotta kestäneessä rajapintojen avoimuutta käsitelleessä prosessissa. Haasteena alustatoimijoiden säännöstelyssä voi kuitenkin olla jähmeys ja hitaus (julkishallinnon lainsäädäntötyössä, esimerkiksi Nelimarkka 2011). Usein säännöstely on reaktiivista, kun alustatoimijat ovat jo muodostaneet oman toimintatapansa. Olisikin tärkeää nopeuttaa kykyä reagoida uusiin alustatoimijoihin ja toimintatapoihin.

Avoimia kysymyksiä

  • Miten alustatalouden vallank√§ytt√∂ n√§kyy ihmisten arjessa ja mit√§ regulaatiotarpeita t√§m√§ vallank√§ytt√∂ nostaa esille?
  • Miten regulaatio voi puuttua digitaalisiin alustatoimijoihin, jos tarvetta?
  • Kuinka eurooppalaisella tasolla voi kehitt√§√§ valtaa paremmin jakavia alustatalouden muotoja?

Viitteet

Evans, David S. 2011. Platform Economics: Essays on Multi-Sided Businesses. Competition Policy International.

Winner, L. (1985). Do artifacts have politics? In D. MacKenzie & J. Wajcman (Eds.), The social shaping of technology (pp. 26‚Äď38). Buckingham: Open University Press.

Gillespie, T. (2012). The relevance of algorithms. In Media Technologies: Essays on Communication, Materiality, and Society (pp. 167‚Äď194).

Hallinan, B., & Striphas, T. (2016). Recommended for you: The Netflix Prize and the production of algorithmic culture. New Media & Society, 18(1), 117‚Äď137.

Brynjolfsson, E., & McAfee, A. (2014). The second machine age: work, progress, and prosperity in a time of brilliant technologies. WW Norton & Company.

Kramer, Adam DI, Jamie E. Guillory, and Jeffrey T. Hancock (2014). “Experimental evidence of massive-scale emotional contagion through social networks.”Proceedings of the National Academy of Sciences 111(24), 8788-8790.

Ailisto, Heikki (toim.), Jari Collin  (toim.), Jari Juhanko (toim.), Martti Mäntylä (toim.), Sampsa Ruutu (toim.), Timo Seppälä (toim.), Marco Halén, Kari Hiekkanen, Kirsi Hyytinen,, Eeva Kiuru, Heidi Korhonen , Jukka Kääriäinen , Päivi Parviainen, Jaakko Talvitie: Onko Suomi jäämässä alustatalouden junasta? Valtioneuvoston selvitys- ja tutkimustoiminnan julkaisusarja 19/2016

Nelimarkka, M. (2011). Viranomaiset ja s√§hk√∂inen kansalaisosallistuminen – asiantuntijahaastatteluiden perusteella luotu aktantiaalinen malli. Hallinnon Tutkimus, 30(2), 158‚Äď169.