God praxis för tjänsteutvecklare

Ansvarsfullt användande av artificiell intelligens

Väg riskerna

Risker med allt för självständig artificiell intelligens

Alla överraskande funktioner i lärande system kan inte analyseras eller upptäckas maskinellt. Kontinuerlig uppföljning, datahantering och konsekvensbedömning är kritiskt viktiga för att det lärande systemet inte ska "gå sin egen väg" och fjärma sig från det uppställda målet.

Systemet kan fungera klanderfritt tekniskt sett, samtidigt som dess resultat är felaktiga. Inte ens den mest utvecklade artificiella intelligensen vet att något är fel, även om den skulle producera förvrängd eller "information", eller ”information” som den själv hittat på. ChatGPT har till exempel konstaterats göra så i oroväckande hög grad.

Eftersom datorn varken har medvetande eller samvete behövs människor som kontrollerar både kvaliteten på och användbarheten av resultaten.

Uppdaterad: 9.11.2023

Datarelaterade risker

Träningsdata för artificiell intelligens är förknippad med en risk för manipulering. Även en mycket liten och obemärkt ändring i träningsdatan, men som gjorts medvetet och kompetent kan göra det planerade resultatet onödigt eller till och med skadligt. Därför är det nödvändigt att dokumentera träningsdata för senare granskning och för att minimera skador.

Även feedback loopen, det vill säga responscirkeln, är förknippad med osäkerhetsfaktorer och oförutsägbarhet i anslutning till data. För att förebygga risker behövs medveten kontroll utfört av en människa.

Begreppet har numera olika betydelser, men i alla fall är det fråga om hur responsen påverkar det algoritmiska systemets funktion:

En person som använder systemet orsakar oundvikligen responsflöden till systemet, antingen medvetet och avsiktligt eller på annat sätt i samband med verksamheten. AI som baserar sig på maskininlärning bearbetar sina resultat utifrån responsflödet som samlas in med tiden.
Maskininlärningssystem som är i kontakt med varandra kan bilda en responscirkel med hjälp av vilken modellen för artificiell intelligens med tiden blir ännu noggrannare. Läs mer i Ultimate.ai:s blogginlägg How AI Uses Feedback Loops to Learn From Its Mistakes (på engelska)Öppnas i ett nytt fönster..
Ett nyare fenomen är en responscirkel som uppstår när material som produceras av generativ artificiell intelligens (bilder, ljud, videor, texter) ökar explosionsartat på nätet och blir undervisningsdata för andra system för artificiell intelligens. Detta kan resultera i "kopior av kopior av kopior" när system för artificiell intelligens utbildar varandra med samma material som de lärt sig av varandra. Om materialet innehåller fel eller diskriminering upprepas och eskaleras de om inte cirklarna kontrolleras tillräckligt.

Uppdaterad: 9.11.2023

Risker vid sammanslagning av datamängder

Den ökade mängden data som finns tillgänglig på internet gör det möjligt att slå samman data i syfte att skada individen och samhället. De datamassor som organisationer publicerar på internet kan i framtiden orsaka överraskande risker när artificiell intelligens kan kombinera och analysera material samt dra slutsatser av dem som vi själva inte ännu ser. Hårfina förändringar i datauppsättningarnas användningskontext över tid kan också påverka riskerna.

Risken i anslutning till mängden datamängder har uppstått långsamt med tiden, vilket ofta sker inom teknologin. På 1980- och 90-talen upphandlades till exempel många adb-system inom förvaltningen, vars interoperabilitet blev ett problem först i den senare digitala världen.

Även om öppenhet i anslutning till data i många fall är bra, lönar det sig ändå alltid att på förhand bedöma om det material som ska öppnas kan utgöra särskilda risker när det förenas med något annat material.

Uppdaterad: 9.11.2023

Risker med prediktiv analys

Från stora, kvalitativt högklassiga datamassor kan man härleda framtidsstudier och prognoser i mycket olika frågor. Detta är en av superkrafterna inom artificiell intelligens.

I forskning om artificiell intelligens har man också identifierat begränsningar i prediktiv analys:

Artificiell intelligens är dålig på att förutse sällsynta händelser som ofta är just de som har betydande konsekvenser.
Om systemet har tränats med ofullständiga data med ”luckor” är de prognoser som systemet genererat sannolikt inexakta eller till och med vilseledande.
Om systemet har tränats med snedvridna data är prognoserna snedvridna på samma sätt, eller till och med kraftigare.
Om systemet har tränats med data som inte är relevanta i förhållande till målet, motsvarar inte heller resultaten målet.

Användningen av prediktiv analys förutsätter datakompetens, engagemang, förståelse för systemets substans och mer omfattande kontext. Om resultaten används av personer som i sitt arbete inte direkt har att göra med systemet för artificiell intelligens, ska de ha tillräcklig förståelse för med vilket material systemet har tränats och hur dess resultat ska tolkas.

Detta är särskilt viktigt när

personens arbete har en direkt eller indirekt inverkan på människor och deras förhållanden
personens arbete till sin natur är sådant att det uppstår en möjlighet att ge systemet mer beslutanderätt än vad det egentligen borde ha.

Uppdaterad: 9.11.2023

Risker med passiverande automatisering

Digitaliseringen ger nya möjligheter till social interaktion och användning av tjänster, men baksidan är minskad fysisk aktivitet, ökad ensamhet och ojämlikare möjligheter att utnyttja olika tjänster

– Ministeriernas framtidsöversikt 2022

I animationsfilmen Wall-E (2008) av Disney-Pixar visas en framtid där mänskligheten, som har flyttats från en icke livsduglig planet till rymdfarkoster, lever betjänade och underhållna av sina intelligenta robotar. De gör egentligen inget meningsfullt, eftersom det inte finns något att göra. Livet är inte hemskt, men saknar ändå mening. Människan har blivit ett passivt objekt för välvilliga maskiner i stället för ett fungerande autonomt subjekt.

I den allt snabbare digitaliseringen som fördjupas i och med innovationerna inom artificiell intelligens kan man se drag som leder till förhållandena i Wall-E:s rymdkolonn. Vad borde organisationerna tänka om detta och hur bör man sträva efter att förhindra en sådan utveckling?

En väsentlig metod är prediktiv konsekvensbedömning. När nya tjänster planeras och genomförs måste man stanna upp och fundera över om tjänsten kan vara passiverande i stället för något som gör saker smidigare, och vilket handlingsutrymme den lämnar för människans aktörskap. I princip kan allt automatiseras, men frågan är om allt borde automatiseras.

Man måste undvika att skapa tjänster och strukturer som rentav förebygger möten mellan människor och den förståelse som uppstår och förmedlas under dessa möten. En inkluderande utveckling är viktig för att vi redan i planeringsskedet ska få förståelse för hur de tjänster vi utvecklar stöder människans aktörskap och inte tar bort detta aktörskap från henne.

Uppdaterad: 9.11.2023

Risker med humanisering av maskiner

Det är motiverat att fråga hur människolika vi vill att våra tjänster och datorer ska bli.

De flesta av oss har förmågan att projicera humana egenskaper på objekt som saknar dessa. När det gäller sällskapsdjur är detta till exempel förståeligt. Men ibland talar människor emotionellt till och med till sina datorer, robotdammsugare och bilar. Vi vill gärna uppleva mänsklighet där den inte finns.

Detta skapar ett problem i den nya teknologin som redan nu kan imitera människans naturliga kommunikation. Vi reagerar särskilt starkt på verksamhet som påminner om människans, även om den utförs av en maskin. Risken ligger i situationer där en ondskefull aktör på ett trovärdigt sätt bedrar människor eller organisationer med artificiell intelligens som imiterar människans egenskaper.

Avståndet mellan människa och maskin måste bevaras. Detta är viktigt redan med tanke på hanteringen av identitet och verklighet.

Detta innebär inte att till exempel en kundservicebot inte får vara artig i sin ton eller att det inte får finnas en entrérobot i huvudbyggnaden i en stor organisation. Inget teknologiskt genomförande ska dock ha drag som verkligen kan tolkas som humana egenskaper. Användaren får inte tro att maskinen kan ha medkänsla eller förståelse på samma sätt som en människa.

I vissa filosofiska konstruktioner kan människan betraktas som en maskin, men en maskin ska inte betraktas som en människa.

Uppdaterad: 9.11.2023

Risker i anslutning till integritet och personuppgifter

Personens integritet skyddas i datamängder med två metoder:

Pseudonymisering är en process där identifikationsuppgifter ersätts med sporadiska koder, men de kan kopplas till den ursprungliga personen med tilläggsuppgifter.
Anonymisering är en oåterkallelig process där personuppgifterna ändras i sin helhet och permanent i materialet. Därför gäller till exempel EU:s allmänna dataskyddsförordning (GDPR) inte anonymiserade uppgifter.

I en värld av artificiell intelligens är inte heller dessa metoder helt problemfria. När data samlas in om en person i systemet skapas också en ständigt växande dataprofil över personen. Man kan dra slutsatser om denna profil även när personuppgifterna har anonymiserats. Detta kan ske via indirekta uppgifter, det vill säga proxy data.

Även om det inte finns någon direkt identifierande uppgift om personen, kan redan enbart postnumret ge tips om personen. Om det samlas tillräckligt md indirekta uppgifter kan personen slutligen identifieras genom att analysera kombinationen av uppgifterna. Till exempel har man i de algoritmiska systemen redan i olika länder genererat beslut och prognoser om en kombination som består av ålder, kön och hemadressens postnummer och som till sin karaktär är diskriminerande.

Med hjälp av syntetiska data kan befolkningsrelaterade data behandlas på ett sätt som inte äventyrar någons personuppgifter. Syntetiska data är konstgjorda data som har tillräcklig statistisk motsvarighet till det fenomen eller den befolkning som de beskriver.

Till exempel kan man matematiskt generera en simulering av genuina befolkningsdata i en stad eller ett område, där ingen datapunkt representerar en verklig person, men materialet som helhet är lika giltigt för analys- eller prognostiseringsändamål som äkta befolkningsdata.

Syntetiska data kan skapas på två sätt:

Om man känner till reglerna för den algoritmiska modell som styr systemet för artificiell intelligens kan de användas för att producera och simulera ny data. En maskinellt analyserad målgrupp har sannolikt regelbundenheter och drag på basis av vilka det är möjligt att generera en syntetisk simulering av gruppens uppgifter.
Materialet skapas direkt från den ursprungliga datan, vilket i allmänhet sker genom att använda maskininlärningsalgoritmer som lär sig datapunkternas fördelning och relationer i den ursprungliga datan.

Syntetiska data är nyttiga särskilt i områden där personrelaterad information ska skyddas och är känslig, såsom inom hälso- och sjukvården eller finanssektorn. Det är bra att överväga fördelarna med syntetiska data även i forsknings- och utvecklingsprojekt.

Uppdaterad: 10.11.2023

Risker med generativ artificiell intelligens

Det blir allt vanligare att använda generativa AI-applikationer i arbetsuppgifter inom både företag och den offentliga sektorn. Innan du tar i bruk sådana applikationer, bekanta dig med deras funktionsprinciper och de risker som är förknippade med användningen.

Artificiell intelligens dök för första gången påtagligt upp i medborgarnas och företagens vardag när företaget OpenAI lanserade ChatGPT i november 2022. I praktiken är ChatGPT en viss produkt från ett visst företag. Tekniskt sett är det ett användargränssnitt till den stora språkmodell (LLM, large language model) som företaget utvecklat och administrerar.

Även andra företags ”smarta” chattbottar och AI-assistenter, såsom Microsofts Copilot, bygger på en liknande struktur, men var och en använder sin egen språkmodell.

Alla AI-system, också applikationer som bygger på stora språkmodeller, är effektiva statistisk-matematiska kalkylatorer. Bakom dem finns ett enormt träningsmaterial och algoritmer med upp till biljontals variabler.

Till exempel kan applikationen räkna ut att följande ord i meningen ”de flesta katter äter gärna…” mer sannolikt är ”fisk” än exempelvis ”hjort”, eftersom ”katt”, ”mat” och ”fisk” statistiskt sett förekommer klart närmare varandra än ”katt”, ”mat” och ”hjort” i de omfattande textmaterialen.

Applikationen förstår ingenting av själva innehållet. Trots att texter som produceras av ChatGPT eller dess konkurrenter kan framstå som mänskligt tänkande är de valda orden bara teckensträngar för datorn. Applikationer som producerar bilder och annat material genererar sina resultat enligt samma princip.

Generativ AI skapar inget nytt, utan upprepar och kombinerar statistiskt det material som den tränats med. Observera att snedvridningar och diskriminering i materialet och i algoritmen påverkar resultaten.
Kom ihåg att innehåll som produceras av AI kan innehålla sakfel eller till och med uppdiktade ”hallucinationer”, såsom hänvisningar till obefintliga verk, beslut eller händelser. Sakfel beror vanligtvis på bristfälligt träningsmaterial. Hallucinationer å andra sidan beror på att applikationerna alltid försöker generera något resultat, oberoende av om de har data om ämnet i fråga eller ej.
Använd inte innehåll som du producerat med hjälp av AI förrän du på egen hand eller tillsammans med en expert har granskat resultatet. Grova sakfel och hallucinationer upptäcks i allmänhet lätt, men mer diskreta fel förbises och sprider sig vidare om man inte åtgärdar dem.
Använd alltid material du misstänker vara producerat av AI med eftertanke. Generativa applikationer möjliggör en aldrig tidigare skådad mängd falsk information, falsk bild, falskt ljud och falsk video som verkar övertygande. Falskt innehåll är relativt lätt att producera och svårt att skilja från äkta.
Om du använder en avgiftsfri AI-applikation, använd inte någon av din organisations uppgifter i de förfrågningar och kommandon du matar in i applikationen, det vill säga i ”promptarna”. De generativa applikationernas gratisversioner samlar in och sparar promptarna som träningsmaterial för AI-företaget. Om du använder en enterprise- eller premium-applikation, kontrollera din organisations riktlinjer för användningssätten.
Om du producerar, redigerar eller översätter betydande delar av innehållet i presentationer eller dokument med hjälp av AI, nämn detta i samband med presentationen eller i början av texten.

Uppdaterad: 3.5.2024

Är du nöjd med innehållet på denna sida?

Minneslista