Ansvarsfullt användande av artificiell intelligens

Utöver det automatiska beslutsfattandet kan system för artificiell intelligens användas för individuella tjänster som skräddarsys för användaren och där systemet producerar rekommendationer i stället för förpliktande beslut.

Rekommendationssystemen är bekanta från den privata sektorn, från nätbutikernas "du är kanske också intresserad av dessa produkter"-funktioner till musik- och programrekommendationer för streamingtjänster.

Samma teknologi kan i princip också användas inom den offentliga sektorn för att styra klienten till tjänster som systemet bedömer vara nyttiga och för att skräddarsy tjänsterna för klientens behov och situation.

En etisk utmaning för rekommendationssystem inom den offentliga sektorn är kvaliteten på och mängden nödvändig information om en person, samt transparensen i användningen. Till skillnad från till exempel en musiktjänst kan det i en offentlig tjänst behövas mycket information som ska vara korrekt, aktuell och relevant.

Behovet kan framhävas i ekosystemtjänstmodeller där många serviceproducenter från olika sektorer behandlar personens uppgifter samtidigt.

Om du överväger att ta i bruk ett rekommendationssystem ska du beakta att

• En persons data är inte samma sak som en person i sitt liv som helhet, i den riktiga världen. Hur säkra kan vi vara på att enskilda datapunkter ger en så tillförlitlig bild och förståelse av personen att vi med iakttagande av god förvaltningssed kan ge honom eller henne maskinella rekommendationer och förslag?
• Systemen för artificiell intelligens har tränats med data som alltid beskriver det förflutna. Man får mycket sällan information om en människa i realtid. Gammal information kan fortfarande vara användbar, men det kan också hända att den inte längre beskriver personens situation och behov, varvid i synnerhet genereringen av proaktiva rekommendationer går fel.
• Rekommendationssystem kan också använda indirekta uppgifter (proxy data) för profilering om allt som behövs om personen inte är direkt tillgängligt. Sådan information kan vara t.ex. positionen för tjänstens användare, kopplingar som användaren själv skapat till andra personer, sökningar som gjorts i tjänsten. Indirekta uppgifter kan ge en överraskande exakt bild av en person utan att man har gett tillstånd till det eller att det skulle finnas ett egentligt ändamål för detta i tjänsten.