Statsrådets utrednings- och forskningsverksamhet
Utredning: Nödvändigt att utarbeta en enhetlig regleringsstrategi för algoritmiskt beslutsfattande
Algoritmiskt beslutsfattande är av central betydelse när det gäller att främja digitaliseringen inom statsförvaltningen. Utnyttjandet av robotiserad processautomation och artificiell intelligens i det offentliga beslutsfattandet medför dock risker. Helsingfors universitets Legal Tech Lab har i samarbete med Teknologiska forskningscentralen VTT och Näringslivets forskningsinstitut kartlagt vilka juridiska villkor som gäller för algoritmiskt beslutsfattande. Utredningen har gjorts inom ramen för statsrådets utrednings- och forskningsplan för 2018.
Automatisering har fått en större betydelse inom statsförvaltningen, och applikationer som använder sig av regelbaserad automation utnyttjas numera bland annat i beskattningen och inom kundbetjäningen vid Migrationsverket. Det finns dock ännu inte särskilt mycket forskning kring eller erfarenhet av användningen av datadrivna tekniker, till exempel AI-applikationer. I den aktuella utredningen har man kartlagt vilka möjligheter den gällande lagstiftningen ger att utnyttja algoritmer i myndigheters beslutsprocesser. Därtill utreddes vilka lagstiftningsändringar som behövs för att öka användningen av automatiserat beslutsfattande inom den offentliga förvaltningen. Utredningsrapporten ger också en översikt över den internationella utvecklingen i fråga om användningen av algoritmiskt beslutsfattande i myndighetsverksamhet.
AI-baserad teknik kan i framtiden användas bland annat inom barnskyddet eller i större utsträckning vid Migrationsverket. Det finns många olika tillämpningsmöjligheter, men de juridiska villkor som begränsar dessa varierar mellan olika förvaltningsområden och är således kontextbundna. Utredningen fokuserade på de juridiska utmaningar och villkor som är gemensamma för olika förvaltningsområden.
I utredningen identifierades vilka som är de största problemen med algoritmiskt beslutsfattande med tanke på principerna för god förvaltning, effektiva rättsskyddsmekanismer, tjänsteansvar och användningen av data.
”Algoritmiskt beslutsfattande måste uppfylla samma kriterier som traditionella beslutsprocesser”, sammanfattar Riikka Koulu, som är biträdande professor vid Helsingfors universitet.
Användningen av algoritmiska system för beslutsfattande innebär i många fall betydande utövning av offentlig makt och beslut som gäller medborgarna. Det är sålunda inte bara fråga om intern myndighetsverksamhet och anskaffning av informationssystem.
För att säkerställa en god förvaltning bör de algoritmiska beslutsprocesserna tydligare och mer konsekvent bygga på lag. Med tanke på både ansvar för fel i systemet och medborgarnas rättsskydd är det viktigt att myndigheternas beslutsprocesser bygger på en enhetlig grund.
”De ämbetsverksspecifika anvisningar och förfaranden som kommit till organiskt till följd av användningen av teknik utgör inte en tillräckligt stark rättslig grund för algoritmiskt beslutsfattande i myndighetsverksamhet. Den enhetliga regleringsstrategin kan exempelvis kombinera teknikneutrala allmänna lagar och speciallagar, så att särdragen hos olika förvaltningsområden beaktas i lagstiftningen”, påpekar Koulu.
Utredningen visar att det också är viktigt att utveckla konsekvensbedömningen i fråga om algoritmiska system. En förutseende bedömning av konsekvenserna bidrar till den samhälleliga acceptansen för systemen och till beaktandet av förvaltningens lagbundenhet redan i planeringsskedet och under systemens hela livscykel.
”Ett enhetligt förfarande för konsekvensbedömning gör det möjligt att styra utvecklandet och införandet av algoritmiska system vid olika myndigheter, att underlätta övervakningen av systemens kvalitet och att på förhand begränsa de negativa konsekvenserna av algoritmiskt beslutsfattande”, konstaterar Koulu. Satsningar på konsekvensbedömning återspeglar den internationella och europeiska utvecklingen.
Ytterligare information: Riikka Koulu, biträdande professor, Helsingfors universitet, tfn 050 448 2743, fornamn.efternamn(a)helsinki.fi