Ansvarsfullhet och etik är kontextbundna, varmed standarder som ställts upp i samband med den ursprungliga algoritmen och etiska frågor som behandlats kan vara problem i den nya applikationen.
– Publikation av forskningsorganisationen Data & Society: Algorithmic Accountability: A Primer (på engelska).Öppnas i ett nytt fönster.
Data är det samma för datasystemet som mjöl, socker och ägg för en kaka, och algoritmen är det samma för systemets resultat som receptet för att baka kakan. Kakan uppstår inte utan råvaror och recept och systemet producerar inget utan data och algoritm.
Algoritmen är en aktiv aktör inom artificiell intelligens i den bemärkelsen att data bearbetar resultat inom ramen för den, med de villkor och egenskaper som skapats för den. Om algoritmen och dess variabler har planerats vårdslöst är resultaten antingen av dålig kvalitet eller till och med skadliga.
Tumregeln "skräp in, skräp ut" täcker alltså inte i sig alla risker, utan dessutom måste man konstatera "kvalitet in, men med dålig algoritm, skräp ut" – alltså precis som när man bakar en kaka.
Läs mer om algoritmernas etiska problem och lösningar i AI and Society -publikationens artikel (på engelska)Öppnas i ett nytt fönster..
Varje algoritm är olika och anknyter till målen för varje system. Därför är det svårt att formulera en allmän anvisning för att bygga upp en trygg och ansvarsfull algoritm på annat sätt än "var bekant med den företeelse eller befolkning som ligger som föremål, med dess särdrag och förhållanden, och beakta dessa så objektivt som möjligt i algoritmens parametrar och deras betoningar".
Ju mer komplext målet är, desto fler parametrar finns det i algoritmen. I viss artificiell intelligens med en mycket snäv uppgift kan det eventuellt finnas bara ett tiotal parametrar, medan det till exempel med GPT3-modellen som ligger till grund för ChatGPT veterligen finns cirka 175 miljarder parametrar. Redan detta visar att grunderna för ChatGPT:s enskilda resultat inte kan förklaras uttömmande eller göras transparenta med hjälp av mänskliga krafter.
ChatGPT är en typisk "svart låda" som beskrivs mer på nästa sida.