Ansvarsfullt användande av artificiell intelligens

Diskrimineringslagen förpliktar både myndigheter och privata aktörer att främja likabehandling och jämlika möjligheter.

Detta innebär förutom hörande och konsultation av befolkningsgrupper även diversitet i hela planerings- och genomförandekedjan.

I grund och botten bygger varje system för artificiell intelligens på två icke-teknologiska och icke-matematiska frågor:

1. Ett identifierat och definierat problem som man vill lösa genom att använda artificiell intelligens.
2. Datamaterial som har använts för att lära systemet.

Båda kan ha utmaningar med tanke på likabehandling och icke-diskriminering:

• Hur har det problem som ska lösas identifierats och valts ut?
• Vem påverkas mest av problemet? Vem har störst nytta av att lösa det?
• Kan en lösning som produceras med hjälp av artificiell intelligens vara skadlig för vissa?
• Finns det diskriminerande drag i de träningsdata som valts? Diskriminering kan uppstå både på grund av förvrängda data och på grund av brist på data.

Människors mångfald är ett faktum i världen, i allt från etnicitet och kön till yrken, men för närvarande återspeglar innehållet på internet inte denna mångfald. Snedvridningar förekommer i alla typer av material: text, bild och ljud. Med just dessa material utbildas system för artificiell intelligens och stora språkmodeller, såsom ChatGPT. Därför måste mångfalden beaktas i samarbetet med intressentgrupper och medborgare.

Ibland är systemet och tjänsten som byggs upp på det särskilt riktad till en viss grupp. Då måste tyngdpunkten naturligtvis ligga på denna grupp, men även då måste man beakta den bredare samhälleliga kontexten och mångfalden inom den grupp som är föremål.

Det effektivaste sättet att säkerställa att slutresultatet verkligen tjänar sitt syfte och inte oavsiktligt diskriminerar eller lämnar någon utanför är att försöka få en sammansättning som så väl som möjligt återspeglar befolkningens mångfald i själva teamen av aktörer, företagen och organisationerna.

Ett så inkluderande utvecklingsperspektiv som möjligt är också en framgångsfaktor, eftersom det utvidgar den potentiella användar- eller kundkretsen för AI-tjänsten eller -produkten.