Lausunto: Tekoälylainsäädännössä on varmistettava järjestelmien avoimuus

Työ- ja elinkeinoministeriö pyysi syksyllä 2024 lausuntoa luonnoksesta hallituksen esitykseksi tekoälyasetuksen toimeenpanoa koskevaksi lainsäädännöksi. Tämä teksti on yhdistyksen aktiivien koostama Rajapinta ry:n lausunto, jonka allekirjoittajina on myös lukuisia suomalaisia tutkijoita.

Kiitämme mahdollisuudesta lausua koskien luonnosta hallituksen esitykseksi tekoälyasetuksen toimeenpanoa koskevaksi lainsäädännöksi. Tieteellinen seuramme kiittää siitä, että lakiesityksessä on erikseen kohta, joka käsittelee tutkimustoimintaa ja antaa sille erillisiä vapauksia velvoitteista. Tämä mahdollistaa tekoälyjärjestelmien rakentamista sisältävän tutkimuksen ilman lainsäädännön erillisiä velvoitteita.

Suomessa tehdään parhaillaan paljon kansainvälisestikin merkittävää tutkimusta sosiaalisesta toiminnasta tekoälyteknologioiden ympärillä sekä niiden vaikutuksista yhteiskuntaan. Tutkimuksella on annettavaa erityisesti siihen, miten näitä sovelluksia kehitetään niin, että ne tukevat EU:n arvoja demokraattisemman teknologiaympäristön kehittämisestä. Korostamme, että tarvitaan laajempaa kansallista ja Euroopan laajuista yhteiskunnallista keskustelua teknologiapolitiikan tavoitteista ja teknologiatarpeista sekä niistä tavoista, joilla tekoäly ja muu digitaalinen teknologia ylipäätään voivat edistää eurooppalaisia arvoja: ihmisarvon, perusoikeuksien ja -vapauksien kunnioittamista, tasa-arvoa ja oikeusvaltiota. 

Tieteellinen seuramme nostaa esille huolen tekoälyjärjestelmien rakentamisen ja käytön avoimuuden toteutumisesta sekä valvonnan resurssoinnista lakiesityksen pohjalta. Nämä ovat oleellisia sekä tutkijoiden että kansalaisten tiedonsaannin kannalta. Suomalaisilla on jo nyt liian vähän tietoa tekoälysovelluksista (DVV, 2024). Avoimuutta ja läpinäkyvyyttä koskevat kohdat lakiesityksessä ovat kuitenkin hyvin yleisluontoisia. Tämän vuoksi jää epäselväksi, miten avoimuus todellisuudessa taataan ja mitä se käytännössä merkitsee (ks. esim. Ananny & Crawford, 2018).

Avoimuusmekanismit ovat välttämättömiä tekoälyjärjestelmien yhteiskunnallista merkitystä tutkivalle korkeatasoiselle tutkimukselle. Riippumaton tutkimus on merkittävä keino arvioida järjestelmien yhteiskunnallisia vaikutuksia ja osaltaan tukee Suomeen jo kehittynyttä kansainvälistä huippututkimusta, joka tarkastelee tekoälyä ihmistieteiden näkökulmasta. Lisäksi tutkimus parantaa kansalaisten oikeuksia ja tiedonsaantia. Riippumattoman tutkimuksen pääsy sellaiseen tietoon ja aineistoihin, joilla näitä asioita voidaan arvioida on turvattava lainsäädännössä. Esimerkiksi digipalvelusäädöksen mahdollistamaan aineistojen saatavuuteen liittyvät tutkijakokemukset ovat osoittaneet, että avoimuuden toteutuminen on puutteellista, koska lainsäädäntöä ei ole kirjoitettu tarpeeksi velvoittavaksi ja käytännössä toteutus jää digipalveluyritysten harkinnan varaan (ks. Forum on Information & Democracy, n.d.). Avoimuuden varmistamiseksi pyydämme huomioimaan seuraavat seikat:

• Mahdollisuus arvioida ja valvoa läpinäkyvästi sekä julkisen että yksityisen puolen tekoälysovelluksia on varmistettava. Järjestelmien olemassaolon, käytön ja toimintatapojen tulee olla läpinäkyviä ja selitettäviä sekä tutkijoille että kansalaisille, jotta niiden luotettavuutta, toimivuutta ja legitimiteettiä voidaan arvioida. Lainsäädännön turvaama järjestelmien avoimuus on erityisen tärkeää tutkimukselle, jotta teknologian vaikutuksiin keskittynyt kotimainen tutkimus pysyy kilpailukykyisenä verrattuna muuhun Eurooppaan. Kansalaisten näkökulmasta vahva avoimuuslainsäädäntö on linjassa Suomen demokraattisten arvojen ja oikeusturvan kanssa: kansalaiset kohtaavat arjessaan joko tietoisesti tai tiedostamatta erilaisia yksityisten toimijoiden tuottamia tekoälysovelluksia, joita käytetään laajalti myös julkisella puolella ja työntekijän roolissa. Tarve avoimuudesta pätee myös tuleviin sääntelyn testiympäristöihin.

• Suomen suunnittelema hajautettu organisoitumismalli hankaloittaa avoimuusvaatimuksia. Lainsäädännössä on perustellusti valittu hajautettu tekoälyn valvonnan ja ohjauksen malli. Mallilla on omat etunsa, mutta samaan aikaan valvonnan hajauttaminen usealle viranomaiselle vaikeuttaa avoimuuden valvontaa ja toteutumista. Yhteiskunnallisten vaikutusten arviointi ja sääntely edellyttää ministeriöiltä ja viranomaisilta myös yhteistä toimintaa (vrt. ilmastotoimet). Ehdotamme, että avoimuuden valvonta keskitettäisiin yhdelle toimijalle, joka myös resurssoitaisiin riittävästi ja erikseen. Tällä toimenpiteellä pyrittäisiin huomioimaan esimerkiksi digipalvelusäädöksen kohdalla jo havaittuja ongelmia avoimuuden toteutumisessa.
• Tekoälyn ja algoritmisten järjestelmien yhteiskunnallisten merkitysten takia lainvalmistelutyössä tulisi myös arvioida tarvetta perustaa Suomeen digitalisaation ja tekoälyn yhteiskunnallisiin vaikutuksiin keskittyvä tutkimuslaitos. Muilla politiikkasektoreilla tälläinen on jo yleistä (esim. Ulkopoliittinen instituutti, THL), ja se tarjoaa lainsäädäntötyölle sekä yhteiskunnalliselle vaikuttavuudelle tutkimukseen perustuvaa tukea sekä mahdollistaa riippumattoman tiedontuotannon järjestelmien luotettavuudesta, validiteetista ja vaikutuksista.

Lausuntomme koskien vaikutusten arviointia   

Tekoälyn kaltaisten yleisluontoisten teknologioiden vaikutukset voivat olla arvaamattomia ja suuria, ja niiden korjaaminen jälkikäteen on vaikeaa. Tämä korostaa huolellisen vaikutusten arvioinnin merkitystä. Tekoäly itsessään on ylätason termi, johon kätkeytyy monia erilaisia järjestelmiä ja toimintoja, kuten esimerkiksi ennakoivat tai generatiiviset järjestelmät. Tekoälyyn liittyvät odotukset voivat luoda harhoja siitä, mihin teknologia oikeastaan soveltuu ja mitä sillä voidaan tehdä.  Kansallisella tasolla on huomioitava riippumattoman akateemisen tutkimuksen rooli tekoälyteknologioiden tarkkailussa ja jatkuvassa arvioinnissa. 

Tekoälyjärjestelmät ovat monimutkaisia sosioteknisiä kokonaisuuksia, joiden takana on ihmisiä, ihmisten tekemiä päätöksiä ja joiden rakentamiseen ja käyttöön liittyy paljon sosiaalista toimintaa (mm., Orr & Crawford, 2024; Lindgren, 2023; Laaksonen et al., 2023; Pääkkönen et al., 2020; Laaksonen et al., 2020; Elish & boyd, 2018). Lakiesityksessä tekoälyyn liittyvä osaaminen, kompetenssi ja lukutaito kuitenkin kuvataan vahvasti teknisinä asioina, ja kaivattu tekoälyosaaminen on teknistä osaamista. 

Tekoälyasetuksen ja hallituksen esityksen tavoite ja lähtökohta on ylipäätään teknologiamyönteinen ja optimistinen, jossa kehityksen päämääränä on teknologia itse. Teknologiakehityksellä on tunnetusti varjopuolia, jotka liittyvät esimerkiksi kansalaisten perusoikeuksiin, yhdenvertaisuuteen ja tasa-arvoon (ks. Ashwini, 2024; Berg & Valaskivi, 2023; Eubanks, 2018; Noble, 2018) sekä digitaalisen teknologian ympäristövaikutuksiin, joista on vasta viime vuosina alettu käydä keskustelua (Istrate et al., 2024; Crawford, 2024; Laaksonen et al., 2024; Verdecchia, 2023; Brevini, 2020).

Korostamme, että tekoälyjärjestelmien kehittämisestä, käytöstä ja vaikutuksista tarvitaan myös ihmistieteellistä tutkimusta ja asiantuntemusta. Tämä asiantuntemus auttaa ottamaan jo suunnitteluvaiheessa huomioon ristiriidat ja mahdolliset ongelmakohdat sekä nyt että tulevaisuudessa välttäen turhia korjausprosesseja ja kielteisiä seurauksia. Vaikutusten arvioinnissa pyydämme huomioimaan seuraavat seikat: 

• Syrjiviä vaikutuksia tulee arvioida perusteellisemmin. Tekoälyjärjestelmien mahdolliset syrjivät vaikutukset on esitetty lakiesityksessä lyhyesti sivulla 94, mutta varsin optimistisessa kehyksessä. Syrjivät vaikutukset eivät rajoitu vinoumiin. Tekoälyjärjestelmien aiheuttamista negatiivisista seurauksista yksilöille ja ihmisryhmille sekä virheellisistä päätöksistä on jo paljon olemassa olevaa tutkimusta ja käytännön kokemusta (ks. esim. AI Incident Database, n.d.; Ojanen et al., 2022). 

• Tekoälyjärjestelmien käyttöönotto ei saa heikentää oikeuksien toteutumista. Suomessa ja EU:ssa ei pitäisi ottaa käyttöön tekoälyjärjestelmiä (ml. reaaliaikainen biometrinen etätunnistaminen), joiden vaikutuksia ei tunneta tai joilla tiedetään jo olevan ihmisoikeuksia ja hyvinvointia heikentäviä vaikutuksia yksilöille, ihmisryhmille tai yhteiskunnalle esimerkiksi maahanmuuton kontekstissa (esim. Van Gerven, 2024; Milan, 2020). Tutkimuksen perusteella tiedetään, että kerran käyttöön otetut teknologiat siirtyvät helposti myös toisiin konteksteihin (He et al., 2022; Koops, 2021; Andrejevic, 2019; Zuboff, 2015). Arvioitaessa suuren riskin järjestelmiä on otettava huomioon mahdolliset käytöt tulevaisuudessa ja niiden vaikutukset, vaikka järjestelmiä ei nykyisellään otettaisi käyttöön. 

• Kansalaisten demokraattinen osallisuus on taattava. Lakiesityksessä painotetaan kansalaisten luottamuksen lisäämistä. Samalla tulisi esittää konkreettisia keinoja siitä, miten negatiivisiin seurauksiin, vinoumiin tai muihin vaikutuksiin puututaan ja miten ne korjataan. Lisäksi tarvitaan laajempaa keskustelua näiden vaikutusten hyväksyttävyydestä eri konteksteissa koulutuksesta työelämään. Kansalaisilla tulee olla demokraattinen mahdollisuus osallistua tähän keskusteluun sekä kieltäytyä tekoälyjärjestelmien käytöstä. Tämä pitää sisällään vaihtoehdon jättää tekoälyjärjestelmiä suunnittelematta, toteuttamatta ja käyttämättä.