reflection

Algoritmit heijastavat niitä ympäröivää yhteiskuntaa

Algoritmit ovat osa arkipäiväämme. Monet ovat huolissaan niiden vaikutuksesta meihin ja yhteiskuntaamme. Ihmiset tai yhteiskunta eivät kuitenkaan ole vain teknologian passiivisia, helposti manipuloitavissa olevia objekteja, vaan teknologioilla on myös kulttuurinen ja poliittinen elämä.

Algoritmit eivät ole uusi matemaattinen ilmiö. Esimerkiksi Eukleideen algoritmi, jonka avulla selvitetään kahden kokonaisluvun suurin yhteinen tekijä, tunnettiin jo antiikin aikana. Myös koneoppimista kehitettiin pitkälle jo 1950-luvulla. Kuitenkin vasta 2000-luvulla laskentateho ja datan määrä on saavuttanut tason, joka on mahdollistanut algoritmien soveltamisen laajaan skaalaan käytännön ongelmia ja kohteita. Algoritmien nousu puheenaiheeksi ja ajankohtaiseksi kulttuuriseksi ilmiöksi johtuukin enemmän siitä, että algoritmit ovat juurtuneet osaksi arkipäivämme kannalta keskeisiä systeemejä ja prosesseja kuten mediaa, diagnostiikkaa ja esimerkiksi Yhdysvalloissa luottopisteytystä ja jopa oikeusjärjestelmää. Näin ollen algoritmit eivät ole enää vain tekninen, vaan yhä enemmän kulttuurinen ja yhteiskunnallinen ilmiö – ja siten myös yhteiskuntatieteen reviirillä. Yhteiskuntatieteellisessä  keskustelussa algoritmeja lähestytään monista teoreettisista näkökulmista, joista toiset painottavat esimerkiksi teknologioiden mahdollistamaa valvontaa ja kontrollia, toiset taas ihmisten toimijuutta suhteessa niihin. Algoritmeista on puhuttu paljon sosiaalisen median tutkimuksen kentällä – ovathan sosiaalisen median alustat näkyvimpiä ja kenties tunnetuimpia käytössä olevia algoritmisia systeemejä.

Mikä algoritmi?

Teknisessä mielessä algoritmi on kuin resepti: se koostuu joukosta yksiselitteisiä sääntöjä tai ohjeita, joita seuraamalla tietokone toteuttaa jonkin päämäärän: esimerkiksi ratkaisee tietyn loogisen ongelman. Algoritmit vaativat yleensä jonkinlaisen syötteen eli määritellyssä muodossa olevaa numeerista dataa toteutuakseen. Myös niiden tehokkuutta ja tuloksellisuutta arvioidaan usein käytännössä. Algoritmin tekninen määritelmä onkin hyvin rajattu, ja yleiskielessä algoritmilla tarkoitetaan tyypillisesti kokonaista järjestelmää, johon liittyy dataa, käyttöliittymiä, palvelimia ja koodia, ja joka hyödyntää jollain tavalla koneoppimista. 

Koneoppiminen viittaa siihen, että algoritmi tunnistaa luokitellusta tai ei-luokitellusta datasta säännönmukaisuuksia. Ohjatussa koneoppimisessa algoritmi ikään kuin “oppii” tekemään valmiiksi luokitellun harjoitteludatan perusteella perusteella ratkaisuja: esimerkiksi erottamaan kasvaimen tavallisesta kudoksesta. Ohjaamattomassa koneoppimisessa pyrkimys ei ole niinkään ennustaa harjoitteludatasta päätellyn perusteella kuin löytää aineistosta vielä tuntemattomia säännönmukaisuuksia.

Yhteiskuntatieteitä tarvitaan algoritmien kehittämisessä

Algoritmien on havaittu tuottavan syrjintää esimerkiksi rekrytoinnissa, kasvontunnistuksessa tai poliisitoiminnassa. Tämä tarkoittaa, että yhteiskunnan epätasa-arvoisuus on tavalla tai toisella heijastunut harjoitteludataan, jonka perusteella koneoppimisalgoritmi oppii tunnistamaan säännönmukaisuuksia ja tekemään ennusteita ja päätöksiä. 

Esimerkiksi amerikkalaisten sairaaloiden laajasti käyttämä algoritmi syrji rodullistettuja henkilöitä pyrkiessään kohdentamaan erikoiskoulutettua hoitohenkilökuntaa kroonisesti sairaille. Algoritmin syrjivyys johtui siitä, että se arvioi riskiä muun muassa potilaan terveyspalveluihin aiemmin käyttämän rahasumman perusteella. Yhdysvalloissa valkoihoiset kuluttavat terveyspalveluihin rodullistettuja ihmisiä enemmän keskimäärin paremman taloudellisen asemansa vuoksi. Kriittiset yhteiskuntatieteilijät ovatkin painottaneet, että algoritmit eivät ole objektiivisia: ne eivät vapauta meitä puolueellisuudesta tai politiikasta. Päin vastoin, algoritmien ottaessa osaa ja sekoittuessa sosiaalisiin prosesseihin ne herättävät laajan kirjon yhteiskunnallisia ja eettisiä kysymyksiä. 

Apua moraalisiin ongelmiin on haettu muun muassa tekoälyetiikasta, joka on herättänyt kiinnostusta myös teknologian rakentajien ja teknologiayritysten keskuudessa. Tekoälyetiikan ala on pyrkinyt määrittelemään korkean tason arvoja algoritmisten järjestelmien kehittämiseen, kuten oikeudenmukaisuus, turvallisuus tai algoritmisen päätöksenteon kohteena olevan henkilön mahdollisuus kyseenalaistaa algoritmin tekemä päätös. Abstraktien suuntaviivojen soveltaminen käytännön suunnittelutyössä voi kuitenkin olla vaikeaa. Teknologioiden vaikutukset ovat usein ennalta-arvaamattomia ja eettisyys on aina kytköksissä kontekstiin, kuten esimerkiksi teknologian käyttöön liittyviin valtasuhteisiin. 

Algoritmien eettisyys ei siis ole ongelma, jonka voi ratkaista yksin abstraktien sääntöjen tai tekniikan tasolla. Sosiologia ja sen läheiset kriittiset alat keskittyvätkin avaamaan sitä, mitä nämä järjestelmät tekevät todellisessa käytössä ja suhteessa esimerkiksi rodullistamisen, iän, luokka-aseman tai sukupuolen kannalta erilaisissa asemissa oleviin ihmisiin. Lisäksi tarvitaan kollektiivista kykyä reagoida ennakoimattomiin teknologisiin seurauksiin.

Algoritmit organisoivat sisältöjä ja ohjaavat toimintaa sosiaalisessa mediassa

Monet sosiaalisen median alustat Instagramista Twitteriin ovat muuttaneet syötteensä algoritmisiksi 2010-luvun aikana. Jo 70 prosenttia YouTuben katselukerroista tulee algoritmisten suositusten kautta, ja TikTokin kohdalla vastaava luku on jopa 90 prosenttia. Valtaosalle meistä algoritmit ovatkin tulleet tutuiksi juuri sosiaalisesta mediasta. Saatamme puhua YouTube-algoritmin “treenaamisesta” – tykkäämällä videoista, joita haluamme meille suositeltavan lisää – tai närkästyä muutoksista Instagram-algoritmiin. Alustojen todellinen algoritminen infrastruktuuri on kuitenkin monimutkaisempi ja koostuu monista erilaisia toimintoja suorittavista algoritmeista ja niiden osista, jotka voivat olla vuorovaikutuksessa keskenään. 

Algoritmien roolin sosiaalisessa mediassa voi käsitteellistää hallinnolliseksi. Algoritmit toteuttavat sääntöjä. Ne organisoivat sisältöä ja ohjaavat toimintaa tavoilla, jotka parantavat käyttökokemusta tai  asettuvat muuten linjaan alustojen taloudellisten pyrkimysten kanssa. Algoritmisen hallinnan voi jakaa  “pehmeään” ja “kovaan”. Pehmeä hallinta viittaa algoritmien rooliin sen määrittämisessä, mitä näemme ja emme näe omissa sosiaalisen median syötteissämme. Sosiaalisen median yritykset pyrkivät maksimoimaan käyttäjien alustoilla viettämää aikaa, ja käyttäjädataa analysoivat algoritmit ovat osoittautuneet tehokkaaksi tavaksi identifioida ja kohdentaa sisältöä. Algoritminen arvottaminen on relationaalista: suositus tapahtuu aina suhteessa käyttäjään, jolle sisältöä kohdennetaan. Esimerkiksi Tinder määrittää jokaisen käyttäjän statuksen monien eri signaalien perusteella. Jokainen käyttäjän saama ja antama tykkäys tai torjunta vaikuttaa osaltaan siihen, kenelle hänen profiilinsa näytetään ja keiden profiileja hän näkee.

“Kova” hallinta viittaa sisällön moderointiin. Moderoinnissa kyse on suosittelun ja järjestämisen sijaan eräänlaisesta rankaisemisesta: käyttöehtoja rikkova, haitalliseksi tai riskialttiiksi arvioitu sisältö poistetaan, sen näkyvyyttä rajoitetaan tai käyttäjä laitetaan jäähylle. Sisällön moderoinnille on sekä laillisia syitä että kaupallisia intressejä: alustat haluavat luoda digitaalisia ympäristöjä, jotka miellyttävät sekä keskivertokäyttäjää että mainostajia. Globaalit alustat paitsi palkkaavat suuria määriä ihmismoderaattoreja, myös kehittävät aktiivisesti moderointialgoritmeja, joiden toivotaan skaalautuvan ihmistyötä paremmin ja vähentävän sen määrää.

Sosiaalisen median alustat ovat epädemokraattisia ja läpinäkymättömiä toimijoita

Sosiologisesta näkökulmasta sosiaalisen median algoritmisessa hallinnassa keskeistä ovat esimerkiksi kulttuurisesti määrittyneet arvot ja säännöt, joita algoritmit ilmentävät ja panevat täytäntöön. Sisällön moderaatio ja näkyvyyden rajoittaminen vaikuttaa kohdistuvan ylikorostuneesti vähemmistöihin sekä käyttäjiin, joiden keho tai ammatti poikkeaa normista. Esimerkiksi transtaustaiset, kehopositiivisuusaktivistit ja seksityöntekijät ovat tuoneet esiin algoritmista syrjintää sosiaalisessa mediassa. YouTubea on syytetty valkoisten sisällöntuottajien suosimisesta. TikTokissa huhutaan olevan käytössä jopa “kauneusalgoritmi”, joka arvioi käyttäjien ulkonäköä ja antaa näkyvyyttä konventionaalisesti hyvännäköisten ihmisten videoille.

Pitivät huhupuheet paikkansa tai eivät, algoritmit arvioivat käyttäjiä ja vaikuttavat merkittävästi heidän kykyynsä kommunikoida ja tulla nähdyksi. Käyttäjillä ei sen sijaan ole mahdollisuutta vaatia tietoa yrityssalaisuuksiksi luokitelluista algoritmeista tai vaikuttaa sosiaalisen median yritysten käytäntöihin suoraan. Usein ainoa keino vaatia informaatiota tai muutosta on julkisen paineen kautta. Algoritmisen hallinnan aiheuttamat kollektiiviset ongelmat ovat kytköksissä nimenomaan alustojen epädemokraattisuuteen ja läpinäkymättömyyteen yhteiskunnallisina toimijoina. Läpinäkymättömyys tuottaa haasteita myös journalisteille ja tutkijoille, joiden on keksittävä luovia ratkaisuja kartoittaakseen sosiaalisen median algoritmisia logiikkoja.

Algoritmit heijastavat aina niitä ympäröivää kulttuuria

Uudet teknologiat herättävät pelkoja. Niiden esitetään uhkaavan kulttuuria tai sosiaalista elämää ikään kuin ulkoapäin. Tässä narratiivissa yhteiskunta näyttäytyy teknologian passiivisena objektina, ja kuluttajat helposti manipuloitavissa olevina. Samoin algoritmisten teknologioiden pelätään tuntevan meidät paremmin kuin tunnemme itsemme, rapauttavan keskittymiskykymme tai villeimmissä kuvitelmissa jopa ottavan vallan. Unohdamme, että myös teknologioilla on kulttuurinen ja poliittinen elämä. Toisin sanottuna, vaikka tekniset vaatimukset määrittävät osaltaan sitä, mitä teknologiasta tulee, teknologia ja sen käyttö heijastaa aina ympäröivää kulttuuria. Teknologiasta käytävä sosiaalinen neuvottelu myös muokkaa sitä. Vastavuoroisuus yhteiskunnan ja teknologian välillä tulee kenties ilmeisimmin näkyväksi teknologian sääntelyssä.

Toimijuuteen keskittyvä tutkimus onkin painottanut, että algoritmien vakiintuessa osaksi yhteiskunnan kannalta tärkeitä infrastruktuureja ja systeemejä, niistä tulee ihmisten tietoisen ja strategisen toiminnan kohde niin päätöksenteossa kuin arkipäivässäkin. Esimerkiksi alustatyöntekijät ja sisällöntuottajat vaihtavat uskomuksia siitä miten algoritmit toimivat ja miten niihin voi vaikuttaa tai niitä “manipuloida”, ja pyrkivät näin vahvistamaan toimijuuttaan suhteessa alustayrityksiin. Ihmiset soveltavat teknologioita omiin tarpeisiinsa tavoilla, jotka saattavat yllättää teknologian rakentajat, ja tulkitsevat ja tarinallistavat niitä omista näkökulmistaan. Algoritmin kulttuuri -hankkeessa algoritmeja lähestytäänkin muun muassa tarkastelemalla sitä, miten algoritmeista puhutaan ja mitä tämä puhe tekee tai mahdollistaa.

Algoritmin käsite voi olla toisaalla, kuten esimerkiksi start-up-yrityksissä, latautunut tulevaisuuteen katsovilla visioilla tiedontuotannon mullistuksista. Toisaalla taas, kuten samojen yritysten alustatyöntekijöiden keskuudessa, käsite voi valottaa digitaalisen ympäristön valtasuhteita ja epäkohtia. Datan määrän, laskentatehon ja automatisaation lisääntyessä on selvää, etteivät algoritmit ole katoamassa mihinkään. Tulevaisuuden kannalta olennainen kysymys ei siis ole ovatko algoritmit pahoja, vaan kuinka elää hyvin algoritmisten systeemien kanssa.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this: