Ansvarsfullt användande av artificiell intelligens

Människor godkänner system för artificiell intelligens endast om deras resultat anses vara betydelsefulla och risknivån låg.

–AI-forskare och företagare Josef Baker‑Brunnbauer, Social Tech Lab.eu

Förtroende är både en moralisk egenskap och en känsla utan vilken vi inte kan fungera som samfund och samhällen. Den offentliga makten kan inte fungera på ett sätt som skadar och försvagar människors förtroende för förvaltningen eller varandra.

Utmaningen med den nya teknologin är att chatbottar och automatiserade tjänster ökar även inom den offentliga sektorn. Förtroende som erfarenhet uppstår i en respektfull interaktion där man i princip är på samma linje som människor.

Kan vi utveckla maskiner med vilka människan kan känna sig sedd, hörd och uppskattad när hon använder dem?

Eller vore det klokare att producera AI-tjänster som inte ens försöker skapa en känsla som liknar förtroende mellan människor? Sådana tjänster skulle medvetet bevara sina karaktärer som maskiner, så att vi inte skulle begå misstaget att betrakta dem som mänskliga på någon nivå.

De nuvarande systemen representerar så kallad smal artificiell intelligens. Detta innebär en situation där en enskild artificiell intelligens fokuserar på att lösa eller optimera en viss uppgift som den blivit tilldelad. Konsekvenserna av sådana system för artificiell intelligens granskas också ofta på ett snävt sätt, enbart ur ett perspektiv som anknyter till uppgiften.

Om fler grupper som systemet även oavsiktligt kan påverka skulle delta i större omfattning redan i planeringsskedet skulle det vara lättare att förutse olika konsekvenser i utvecklingen. Då skulle de positiva effekterna kunna stärkas och de negativa förebyggas.