What does it mean to look at an algorithmic system as a game?

One of the games designed at the
2nd NOS-HS workshop for Nordic
Perspectives on Algorithmic
Systems. Photo copyright:
Salla-Maaria Laaksonen

It is not uncommon to hear the phrase ‚Äúgaming the system‚ÄĚ when someone fools an algorithm, but game as a metaphor can go beyond this perspective. Besides calculation, games are also about meanings and design.

We recently published an article called ‚ÄúGaming Algorithmic Hate-Speech Detection: Stakes, Parties, and Moves‚ÄĚ with Salla-Maaria Laaksonen and Airi Lampinen in the Social Media+ Society journal. In it, building on Erving Goffman‚Äôs work, we use the game metaphor to study the implementation of and subsequent resistance to an automatic hate-speech detection system. This blogpost describes my perspective on how games can be used as a metaphor to approach algorithmic systems from different angles. It is not meant as a comprehensive list, but more as an example of some of my thoughts on the topic during my Ph.D. journey so far.

I leave the concept of an algorithmic system intentionally vague here. You may consider recommender systems that suggest content to you in Netflix or Youtube as one type of an example, and social network services such as Facebook as another one. Generally, many of the information systems we interact with on a daily basis can be thought of as algorithmic systems. Thus, a tongue in cheek way of describing algorithmic systems in the context of this blog post could be ‚Äúany information system that uses algorithms in a way that interests the author of this blog post‚ÄĚ.

A game as a general metaphor

This is a category where I would group approaches such as the one which we took in the aforementioned article: if everyday life is (sometimes) a game, what can we learn if we approach it analytically as such? At least two different ways of understanding this type of approach can be identified: ideas about gaming the system, which often refer to behavior where someone is seen to ‚Äúcheat‚ÄĚ an algorithm and, on the other hand, following the rules, where individuals maximize their gains by acting in line with how they consider the designers of the system(s) wish them to act. Cotter‚Äôs article ‚ÄúPlaying the visibility game: How digital influencers and algorithms negotiate influence on Instagram‚ÄĚ wonderfully illuminates and also problematizes this distinction when discussing simulated and relational influence in terms of how Instagram influencers attempt to increase their visibility. Additionally, in her recent article ‚ÄúAlgorithmic Experts: Selling Algorithmic Lore on YouTube‚ÄĚ, Bishop notes that algorithms may be treated as ‚Äėgames‚Äô by those attempting to figure out how they could be used to one‚Äôs advantage.

This line of consideration also raises questions about who or what are players in a particular game playing for. Companies specializing in search engine optimization are obviously trying to make their clients’ pages generate more traffic, and fans of musical groups might be trying to give the target of their fandom more visibility. We certainly do not play only for ourselves.

Algorithmic systems as world creating

For me, this second way of looking at algorithmic systems ‚Äď algorithmic systems as world creating ‚Äď entails looking at what kind of a ‚Äėmicro-cosmos‚Äô of meanings the encounter with the system holds. In a game of chess, pieces have different values for the player based on their shape, but the relationship between the shape and the value only makes sense in the context of chess. Goffman points out that other encounters share this element of encounter-specific meanings: ‚ÄúIt is only around a small table that one can show coolness in poker or the capacity to be bluffed out of a pair of aces; but, similarly, it is only on a road that the roles of motorist and pedestrian takes on full meaning‚ÄĚ. Encounters, then, are world-creating events, and encounters with algorithmic systems are no exception.

Algorithmic systems have different kinds of transformation rules. The concept originates from Goffman, but I find Di Filippo‚Äôs use of it in his book chapter ‚ÄúMMORPG as Locally Realized Worlds of Action‚ÄĚ easier to grasp than the original definition. Di Filippo states that these transformation rules refer to ‚Äúthe fact that individuals adapt resources to match the relevance of the situation‚ÄĚ. In the aforementioned chapter, Di Filippo uses the concept to analyze how the world created in fantasy books is transformed to serve as a backdrop for a video game. When considering recommender systems, transformations occur on how behavior should be understood: clicks or other forms of behavior such as decisions to buy something are transformed into recommendations. If a couple of strangers in front of us in a caf√© buy the same kind of coffees, we most likely do not consider it as a recommendation: however, it could very well be transformed into one based on the data collected from the transaction that happens between the clients and the caf√©. We have followed this line of inquiry with Airi Lampinen in a study that drew from Goffman‚Äôs Frame Analysis by analyzing interviews of users and the head designer of a recommender system that used reading time to generate its recommendations.

Game-likeness from a design perspective

This third category ‚Äď game-likeness in the context of design ‚Äď focuses on the design perspective of algorithmic systems, or more specifically, what algorithmic systems that are not intended as games may share with the design of games. Algorithmic systems may incorporate elements that make them ‚Äúgame-like‚ÄĚ or gamified. Instagram and Facebook quantify ‚Äúlikes‚ÄĚ other users can give to one‚Äôs content, making these systems potentially more enthralling for their users. From a perhaps more serious perspective, Chan (2019) has pointed out in his article ‚ÄúThe rating game: The discipline of Uber’s user-generated ratings‚ÄĚ that the on-demand taxi service Uber‚Äôs customer reviews make drivers attempt to maximize positive ratings as their livelihoods may be on the line: get enough negative reviews and you won‚Äôt be getting customers anymore. 

Game design can also be a method that ties together some of the elements from the first two categories. In the 2nd NOS-HS workshop for Nordic Perspectives on Algorithmic Systems, Michael Hockenhull and Mace Ojala organized a session where the participants designed tabletop-games from empirical research cases Bastian J√łrgensen, C√¶cilie Laursen, Silja Vase and Rikke Torenholt were working on and were kind enough to let us use as starting points for the games. This activity was inspired by Dumit’s article ‚ÄúGame Design as STS Research‚ÄĚ. The process of designing a game based on an algorithmic system forced one to consider both the calculative nature of interactions individuals may have with such systems and the ways these interactions could be transformed into a playable format.

Conclusion

As pointed above, games can be used as a metaphor to illuminate different kinds of things about algorithmic systems. The focus can be placed on the strategic nature of everyday dealings with them, the set of meanings interactions with them contain, or the design aspects that may mimic those we encounter in actual games. One could probably discover further perspectives that the concept of a game might afford, but these are the three that I have identified in the extant literature and found productive for my own research.

Jesse Haapoja is a Ph.D. student in Social Psychology at the University of Helsinki who has the privilege of working on topics such as the one presented here in the Kone Foundation funded project ‚ÄúAlgorithmic Systems, Power, and Interaction‚ÄĚ.

Thanks to Airi Lampinen for comments on a draft of this blog post

Lukemisen datafikaatio ja uskottavuus

Yhä useampi arkipäiväinen toimintamme muutetaan erilaisten digitaalisten välineiden avulla dataksi, jota käytetään erilaisiin laskennallisiin toimiin kuten käyttäytymisemme ennakointiin ja sisältöjen personointiin. Tätä prosessia kutsutaan datafikaatioksi. Ihmiset luonnollisesti tulkitsevat tätä prosessia kuten ympäristöään ylipäätään. Tässä blogikirjoituksessa keskityn lukemisen datafikaatioon ja miten ihmiset sitä ymmärtävät.

Julkaisimme hiljattain Airi Lampisen kanssa artikkelin, jota varten haastattelin jo suljetun uutissuosittelujärjestelmä Scoopinionin käyttäjiä ja pääkehittäjää. Scoopinion oli Suomessa kehitetty uutissuosittelujärjestelmä, joka seurasi käyttäjien lukuaikaa eri uutisartikkeleissa. Se suositteli käyttäjille heitä tältä pohjalta mahdollisesti kiinnostavia artikkeleita. Scoopinionia voidaan siis pitää yhtenä esimerkkinä datafikaatiosta.

Uskottavuus ja data

Haastatteluissa nousi esiin uskottavuus: koska Scoopinion keskittyi lukuajan mittaamiseen eikä perinteisempään klikkipohjaiseen analytiikkaan, kokivat haastateltavat sen antamat suositukset luotettavammiksi. Tämä luotettavuus syntyi ajatuksesta, että lukuaika on pelkkää klikkausta parempi todiste siitä, että datan lähde on pitänyt artikkelia kiinnostavana. Lukuajan ajateltiin siis edustavan paremmin lukijan arviota artikkelista. Tämä tapa kehystää lukuaika oli toki myös se tapa, jolla järjestelmän kehittäjät pyrkivät palveluaan markkinoimaan.

Scoopinionin uskottavuus siis rakentui lukemiseen liitettyjen merkitysten varaan, joita kehittäjät käyttivät hyväkseen sekä järjestelmää rakentaessaan että sitä markkinoidessaan. Järjestelmää käyttäneet ihmiset tulkitsivat järjestelmän toimintaa lukemiseen liitettyjen merkitysten kautta. Järjestelmää tehtiin ymmärrettäväksi pohjaten näihin merkityksiin, kuten esimerkiksi siihen, että ihmiset ajattelevina olentoina arvioivat lukemaansa omien mieltymystensä mukaan ja viettävät enemmän aikaa itseään kiinnostavien tekstien parissa kuin sellaisten tekstien, jotka heitä eivät kiinnosta. Toisaalta palvelu myös toi uusia merkityksiä lukemiselle: kun palvelu seurasi lukemista, lukeminen muuttui implisiittiseksi suosittelemiseksi. Tämän seurauksena palvelu, jossa käyttäjillä ei ollut mahdollisuutta nähdä muita käyttäjiä koettiin kuitenkin tietyllä tapaa sosiaalisena.

Algoritmiset palvelut osana laajempaa merkitysjärjestelmää

My√∂s muissa algoritmisissa palveluissa ymm√§rryst√§ rakennetaan niit√§ edelt√§vien merkitysten varaan, samalla kuitenkin tuoden niihin jotain erilaista. Facebook-yst√§v√§t eiv√§t ehk√§ tarkoita t√§sm√§lleen samaa kuin ihmiset jotka koemme yst√§viksemme sen ulkopuolella, mutta palvelu k√§ytt√§√§ kuitenkin hyv√§kseen yst√§vyyteen liitettyj√§ merkityksi√§. Kun kyydityspalvelu Uber alkoi menestym√§√§n, rupesivat monet muut jakamistalouspalvelut markkinoimaan itse√§√§n tietyn asian ‚ÄúUberina‚ÄĚ: uusien palveluiden uskottavuutta menesty√§ rakennettiin Uberin menestyksen p√§√§lle. N√§m√§ palvelut nojasivat t√§ll√§ kehyst√§misell√§ Uberiin liitettyihin merkityksiin, joka puolestaan on idealtaan hyvin samankaltainen kuin sit√§ vanhemmat taksipalvelut. T√§ss√§ tapauksessa korostui Uberin lupaus tehd√§ vanha asia kustannustehokkaammin ja antaa ‚Äútavallisille‚ÄĚ ihmisille mahdollisuus hy√∂ty√§ taloudellisesti toiminnasta, joka oli aiemmin n√§hty p√§√§osin tietyn ammattiryhm√§n toimialana.

Algoritmisia järjestelmiä sosiaalitieteellisestä näkökulmasta tutkittaessa tulisi huomioida, että usein niiden käyttämää dataa ja siihen liittyviä merkityksiä on hankalaa, ellei mahdotonta, erottaa itse algoritmeista, joita järjestelmät käyttävät. Usein data edustaa palveluissa ihmistä ja tästä datasta tehdään selkoa niiden käsitysten kautta, joita ihmisten toimintaan liitetään palvelun ulkopuolella.

Järjestelmät ovat ihmisten rakentamia ja niitä ruokitaan ihmisten toiminnalla. Ne ovat siis läpeensä sosiaalisia.

Artikkeli julkaistiin ihmisen ja tietokoneen välisen vuorovaikutuksen tutkimukseen keskittyvässä NordiChi-konferenssissa ja sitä tehtiin osana Koneen Säätiön rahoittamaa Algoritmiset järjestelmät, valta ja vuorovaikutus -hanketta.

Artikkelin tiedot:
Haapoja, J., & Lampinen, A. (2018). ‘Datafied’ Reading: Framing behavioral data and algorithmic news recommendations. In NordiCHI 2018: Revisiting the Life Cycle – Proceedings of the 10th Nordic Conference on Human-Computer Interaction (pp. 125-136). DOI: 10.1145/3240167.3240194

Botteja, algoritmeja ja kokemuksen v√§√§rent√§mist√§

 

Tällä viikolla Etelä-Saimaa julkaisi Juho Maijalan kirjoittaman jutun, jossa kerrottiin kansanedustaja Jani Mäkelän (ps.) mielipidekirjoituksiin kohdistuneesta bottiklikkausliikenteestä. Klikkiliikenteen seurauksena kyseiset kirjoitukset olivat nousseet lehden luetuimpien listalla kärkeen. Tapaus on rakenteeltaan mielenkiintoinen. Joku tai jotkut tahot ovat käyttäneet botteja vaikuttaakseen algoritmiin vaikuttaakseen juttujen asemaan verkkosivulla, minkä mitä luultavimmin toivotaan vaikuttavan lukijoiden toimintaan ja ajatuksiin. Tapaus siis suorastaan huokuu nykyaikaa ja näyttää osuvasti, kuinka algoritmeja voidaan valjastaa palvelemaan tarkoitusperiä, joita niiden kehittäjät eivät ole toivoneet.

Erving Goffman puhuu teoksessaan Frame analysis (1986) kokemuksen väärentämisestä (käyttäen termiä fabrication englanniksi). Etelä-Saimaan jutussa puhutaan näkyvyyden lisääntymisestä yhtenä seurauksena manipulaatiosta; itse lisäisin joukkoon myös kokemuksen muokkaamisen. Korkea asema luetuimpien listalla viestii myös jutun asemasta suosittuna muiden ihmisten keskuudessa, eli siihen liittyy sosiaalista informaatiota. Tässä tapauksessa kokemuksen väärentäminen kohdistuu juuri tähän. Kehys, jossa informaatiota tulkitaan perustuu oletukseen, että muut ihmiset ovat omalla toiminnallaan nostaneet tietyn tekstin luetuimpien listalla kärkipaikoille. Ihmiset käyttävät usein muiden toimintaa tiedonlähteenä oman toimintansa suhteen ja se voi osaltaan vaikuttaa myös sisällön arviointiin (e.g. Salganik, Dodds, & Watts, 2006; Knobloch-Westerwick, Sharma, Hansen, & Alter, 2005). Paljon luettu artikkeli voidaan tulkita sisällöltään ja näkökulmaltaan validiksi ja suosionsa perusteella tärkeäksi. Algoritmi toimi tilanteessa niin kuin se oli rakennettu: sen kannalta jokainen klikkaus oli yhtä aito kuin mikä tahansa muu. Se mikä tälle algoritmille on relevanttia dataa on ihmisen valinta. Klikkauksen ajatellaan symboloivan kiinnostusta tai muuta mahdollisesti positiivista suhtautumista tiettyyn kirjoitukseen. Tässä tapauksessa paljastui, että jos klikkausmäärä on se, minkä ajatellaan olevan objektiivinen mittari, niin klikkaus ei itsessään aina tarkoita ihmisen klikkausta ja intentio klikkauksen takana ei aina ole selvä.

Etelä-Saimaa paljastaessaan epäilyttävän verkkoliikenteen purki, Goffmanin termejä käyttäen, kehyksen joka oli botteja käyttäen rakennettu Jani Mäkelän mielipidekirjoitusten ympärille. Koko tapaus on osuva kuvaamaan, kuinka haavoittuvainen jopa hyvin yksinkertaisten mittareiden perusteella rakennettu kokemus voi olla, miten algoritmeja on mahdollista manipuloida omien intressien edistämiseksi, ja toisaalta kuinka fabrikoituja kehyksiä on mahdollista purkaa.

Kirjallisuutta:

Goffman, E. (1986). Frame analysis: An essay on the organization of experience. Harvard University Press.

Knobloch-Westerwick, S., Sharma, N., Hansen, D. L., & Alter, S. (2005). Impact of popularity indications on readers’ selective exposure to online news. Journal of Broadcasting & Electronic Media, 49(3), 296‚Äď313.

Salganik, M. J., Dodds, P. S., & Watts, D. J. (2006). Experimental study of inequality and unpredictability in an artificial cultural market. Science, 311(5762), 854‚Äď856.

Algoritmitutkimuksesta yleisemmin:

Gillespie, T. (2012). The relevance of algorithms. Media Technologies: Essays on Communication, Materiality, and Society, (Light 1999), 167‚Äď194. http://doi.org/10.7551/mitpress/9780262525374.003.0009

Kitchin, R. (2016). Thinking critically about and researching algorithms. Information, Communication & Society, 1-16.