Ansvarsfullt användande av artificiell intelligens

Till följd av individualiserade tjänster kan individens frihet och makt att besluta om användningen av sina egna uppgifter öka. Det kan också vara lättare för individen att sköta sina ärenden. Samtidigt ökar emellertid också individens personliga ansvar. Individernas varierande förmåga att förstå helheten och karaktären av sina uppgifter som datapunkter i dataekonomin är en utmaning.

Forskare och experter är bekymrade över ämnet. I ljuset av den psykologiska och sociologiska kunskapen är långt ifrån alla av oss hela tiden rationella aktörer som optimerar sin egen nytta. Datamarknaden fungerar dock i stor utsträckning utifrån en sådan människosyn och till och med bestraffar en person som inte verkar dominera spridningen och användningen av sina uppgifter.

Konsumenten har förväntats bevaka sina egna rättigheter, data och agera självständigt vid problem, och de har blivit anklagade när de inte har kunnat agera i enlighet med sina intressen. I själva verket har långt ifrån alla ens förmåga till detta.

– Arbets- och näringsministeriets avdelningschef Antti Neimala, 2021

Inom dataekonomi kan personens sätt att använda sina egna uppgifter påverka tillgången till tjänster och därmed tillgodoseendet av de grundläggande fri- och rättigheterna. I system för artificiell intelligens och smalare system för regelbaserad robotik är det därför skäl att hålla fast vid principen om tidigare digitaliseringsvågor. Systemen ska genomföras så att de förebygger eller korrigerar användarens misstag och på så sätt åtminstone strävar efter att förhindra att användaren hamnar i svårigheter.

En person som lämnar uppgifter på en traditionell elektronisk blankett är till exempel bunden till blankettens innehåll. Beslutet om gränserna för användningen av uppgifter har alltså fattats där tjänsten och tillhörande blankett hanteras. Personen kan göra enskilda sak- eller skrivfel, men tjänsten kan avslå uppenbart felaktiga eller olämpliga uppgifter.

I den nya dataekonomin kan en person dela sina data i tjänster och system som inte gynnar honom eller henne och som till och med ibland kan orsaka skada. Hen kan också ge tjänsten information som inte har begärts, kanske också känslig information. Eftersom en persons beslut om att dela sina uppgifter inte kan förhindras på förhand måste vi fråga oss vilka slags hinder eller ”kontrollpunkter” man borde skapa i systemen för att personen inte oavsiktligt ska orsaka sig själv skada.