Ansvarsfullt användande av artificiell intelligens

Tväradministrativa system och korsanvändning av datamassor utmanar fortfarande situationerna. Medborgarens möjlighet och förmåga att se vad de egna uppgifterna används till, hur de kan hanteras och om de kan raderas, fördunklas.

– Publikationen Artificiell intelligens inom myndighetsutövande av Statsrådets kansli (på finska)Öppnas i ett nytt fönster..

Om ett system med artificiell intelligens har direkta eller indirekta konsekvenser för medborgarnas eller företagens vardag och rättigheter, ska användaren informeras om systemets funktion, syfte, resultat och konsekvenser på ett så begripligt och enspråkigt sätt som möjligt.

När det gäller kommersiella applikationer handlar det om konsumentskydd, när det gäller offentliga och administrativa applikationer handlar det om medborgarnas och företagens lagliga och demokratiska rättigheter. Om systemen har beskrivits och förklarats på ett sätt som är svårt eller obegripligt för objekten, äventyras rättigheterna.

Läs mer om ansvarsfull förklaring av system för artificiell intelligens i publikationen av Alan Turing Institute (PDF, på engelska)Öppnas i ett nytt fönster..

Ansvaret för en begriplig servicebeskrivning för artificiell intelligens ligger i lika hög grad hos systemleverantören som hos upphandlaren. Ingendera kan undvika sin andel i frågan. Den information som förklarar systemet är alltid bunden till kontexten och därför måste den som utarbetar beskrivningen förstå mål- och användargrupperna.

I bästa fall produceras informationen som kommunikativt samarbete mellan systemleverantören, den upphandlande enheten och den upphandlande organisationen. På så sätt säkerställs att den tekniska informationen är korrekt och att meddelandet är tydligt.

En tydlig kommunikation gagnar också varumärket internt, särskilt i större organisationer där hela personalen kanske inte ens har känt till upphandlingen av systemet för artificiell intelligens, för att inte tala om dess syften eller egenskaper.

Att förklara är inte samma sak som att bli förstådd. Även om vi på ett transparent sätt kunde presentera maskinlogikens funktion för den person som är föremål för beslutet, kan personen uppleva att hen har fått en förklaring, men fortfarande vara lika förvirrad som tidigare.

Eftersom det är svårt att förklara beslutslogiken i system för artificiell intelligens är det viktigt att tjänstens transparens främjas åtminstone med tydlig information om

• vem eller vilka instanser som ansvarar för tjänsterna
• för vilket ändamål tjänsten har gjorts
• vilken information användaren ska ge tjänsten
• varför användaren måste ge just denna information.

Satsa på tydlighet, begriplighet samt stil och ton. Målet är så omfattande inklusivitet som möjligt. Transparens är också förknippat med tydliga anvisningar till användaren om hur hen ska gå till väga vid rättelse av fel och rättelseyrkande.

Öppenhet på olika nivåer behövs i olika sammanhang. Man kan till exempel inte erbjuda en algoritm för granskning av en vanlig serviceanvändare eftersom

• algoritmen skulle vara obegriplig och troligtvis förvirrande för största delen av medborgarna, och inte främja användarens förståelse och tillit
• även den offentliga sektorns system för artificiell intelligens är sannolikt producerat av ett företag och algoritmen är en del av företagshemligheten
• en algoritm som granskas offentligt av vem som helst skulle utgöra en sannolik risk för tjänstens säkerhet.

Även om algoritmerna inte kan öppnas helt för användarna måste de ändå granskas. Ansvarsfullt genomförande omfattar auditeringar av systemet som utförs av en oberoende aktör.

Håll detaljerna i auditeringen strikt konfidentiella mellan systemleverantören, ägaren och auditeraren, men publicera de huvudsakliga observationerna och eventuella åtgärder som följer av dem. Gör det på en nivå som inte äventyrar systemets säkerhet, men som ger användarna tillräcklig information för att bevara förtroendet.

Läs artikeln om auditering av algoritmer på German Marshall Funds webbplats (på engelska)Öppnas i ett nytt fönster..