Facial recognition in border management : impact assessments as algorithmic accountability tools

Tekoälypohjaisten järjestelmien käyttö on merkittävästi lisääntynyt viime vuosien aikana. Vaikka tekoälypohjaisia järjestelmiä kehitetään ja käytetään perinteisesti yksityisten toimijoiden toimesta, myös viranomaiset ovat alkaneet hyödyntämään tekoälypohjaisia järjestelmiä enenevissä määrin. Samalla, kun näiden järjestelmien käyttöaste kasvaa, on herännyt huoli siitä, kuinka vastuullisesti algoritmit toimivat. Vaikka kasvojentunnistus ei ole uusi ilmiö, on sen käyttö huomattavasti lisääntynyt viime vuosina tekoälypohjaisten algoritmien antamien tehokkuushyötyjen vuoksi. Etenkin rajavalvonnan osa-alueella kasvojentunnistuksen hyödyntämisen merkitys on kasvanut ja sen lisäämisestä keskustellaan laajemmin Euroopan Unionin alueella. Helmikuussa 2020 Euroopan komissio painotti Euroopan digitaalista tulevaisuutta rakentamassa -hankkeen yhteydessä luottamuksen ekosysteemin muodostamista tekoälyn suhteen. Hankkeen taustalla vaikuttaa muun muassa se, että lukuisat tutkimukset ovat osoittaneet, että tekoälyn kehitysprosessin aikana tehtävät toimet vaikuttavat siihen, miten järjestelmä oppii malleja sekä tekee päätöksiä. Tämän osalta etenkin koneoppimista varten tarvittava harjoitusdata määrittelee hyvinkin laajasti sen, miten järjestelmä toimii tulevaisuudessa. Näin ollen huomiota on alettu enenevissä määrin kiinnittää siihen, sisältääkö harjoitusdata mahdollisia piileviä ennakkoasenteita tai muutoin syrjiviä elementtejä. Etenkin kasvojentunnistuksen osalta on käynyt ilmi, että tällaisia elementtejä sisältäviä datasettejä on käytetty kasvojentunnistusjärjestelmien opettamiseen, joka puolestaan on johtanut näiden järjestelmien kykenemättömyyteen tunnistaa esimerkiksi vähemmistöjä. Yleisen tietosuoja-asetuksen 35 artiklan perusteella rekisterinpitäjän on ennen henkilötietojen käsittelyä toteutettava arviointi suunniteltujen käsittelytoimien vaikutuksista henkilötietojen suojalle. Vaikutustenarviointi on toteutettava etenkin silloin, jos käsittely todennäköisesti aiheuttaa luonnollisen henkilön oikeuksien ja vapauksien kannalta korkean riskin. Kasvojentunnistuksen käyttäminen rajavalvontatarkoituksiin on korostetun perusoikeusliitännäinen aihealue, joten 35 artiklan vaatimukset mitä todennäköisimmin täyttyvät. Kyseisten vaikutustenarviointien toimivuus on kuitenkin laajasti kyseenalaistettu, ja on esitetty, että algoritmien vaikutustenarviointi pystyisi paremmin arvioimaan tämän tyyppisten käsittelytoimien vaikutuksia. Tämän tutkielman tarkoituksena on selventää yleisen tietosuoja-asetuksen 35 artiklan perusteella tehtävien vaikutustenarviointien suhdetta algoritmien vaikutustenarviointeihin. Tutkielmassa selvitetään, miten kyseiset arvioinnit eroavat toisistaan ja voidaanko ne katsoa erillisiksi arvioinneiksi, vai ovatko kyseiset vaikutustenarvioinnit läheisesti liitoksissa toisiinsa. Tutkimuskysymyksiä lähestytään lainopillisen metodin näkökulmasta siten, että ensin tarkastellaan kyseisten vaikutustenarviointien normitasoista sääntelyä. Tämän jälkeen tutkielmassa selvitetään, mitä ongelmia yleisen tietosuoja-asetuksen 35 artiklan perusteella tehtäviin vaikutustenarviointeihin liittyy ja samalla selvitetään, olisiko algoritmien vaikutustenarviointien lisääminen oikeudelliseen viitekehykseen tärkeää algoritmipohjaisten järjestelmien tuottamien laajojen, yli tietosuojan oikeudenalan menevien vaikutusten arvioimiseksi. Tutkimuskysymyksiä lähestytään rajavalvonnassa käytettävän kasvojentunnistusjärjestelmien näkökannalta, mutta kuitenkin siten, ettei jo olemassa olevia niin sanottuja pelkkiin todentamiseen perustuvia järjestelmiä tarkastella lähempää. Tutkielman tarkoituksena ei ole selventää, milloin kasvojentunnistusta voidaan käyttää rajavalvonnassa, vaan tarkoituksena on arvioida edellä mainittujen vaikutustenarviointien käytön toimivuutta silloin, kun kasvojentunnistusta käytetään. Tutkielman keskeinen johtopäätös on, että yleisen tietosuoja-asetuksen tietosuojakeskeinen viitekehys rajoittaa tietosuojaa koskevien vaikutustenarviointien laajuutta siten, että 35 artiklan perusteella tehtävät vaikutustenarvioinnit ovat kykenemättömiä arvioimaan rajavalvonnassa käytettävien kasvojentunnistusjärjestelmien aiheuttamia vaikutuksia. Tämän pohjalta tutkielmassa suositellaan, että algoritmien vaikutustenarviointi tulisi saattaa osaksi tekoälypohjaisia järjestelmiä koskevaa oikeudellista viitekehystä