← Alla kortlekar

Elementen inom digital etik

Korten sammanfattar de många sätt som digitalisering kan orsaka negativ påverkan på. Använd dem i planering, diskussion och som referens när du gör riskanalyser. Ämnena i korten utgår från ett diagram, Elementen inom digital etik, som Per Axbom publicerade i mars 2021.

Favoriter 0
  • Organisation 🤷

    Etiskt ägarskap saknas

    När ingen i ett företag eller organisation har det uttryckliga ansvaret att säkerställa etisk hänsyn i den dagliga verksamheten kommer alla initiativ att vara ostrukturerade och vanvårdade sett ur detta perspektiv. Bristande ägarskap gör organisationer medskyldiga till aktiviteter som leder till negativ påverkan.

    Vem bör bära det yttersta ansvaret för etik och omtanke om välbefinnande? Hur planeras och bedrivs arbetet? Hur följer vi upp?

    or01
  • Organisation 🧽

    Ethicswashing

    Etiska koder, dedikerade råd, whitepapers, utmärkelser och liknande fenomen kan skapas för att ge sken av godhjärtade överväganden utan någon verklig substans under ytan. 'Etiktvättning' kan också rikta uppmärksamhet mot investeringar och donationer i goodwill-projekt, som vid ytterligare granskning visar sig vara av ringa värde när det gäller att nå det uttalade målet att mildra negativa effekter av organisationens egna tjänster.

    Hur säkerställer vi att de insatser vi gör har relevans? Hur kan vi knyta insatserna mer konkret till den faktiska verksamheten?

    or02
  • Organisation 👀

    Monokultur

    Genom linsen av en liten del av mänsklig erfarenhet och omständigheter är det svårt att föreställa sig och förutse vidden av alla de perspektiv och öden som en ny skapelse kan påverka. Homogeniteten hos de som har antagit förmågan att bygga och skapa i det digitala rummet innebär att det främst är deras spegelbilder som gynnas – med bristande tanke på välbefinnande hos de som inte är synliga i den reflektionen.

    Vilka hinder finns till att involvera fler röster och perspektiv i arbetet? Vems perspektiv behövs – när och var i processen? Var hittar vi dessa röster och hur bjuder vi in dem?

    or03
  • Organisation 👨🏻‍💼

    Maktkoncentration

    När makt finns hos några få kommer deras egna behov och bekymmer på ett naturligt sätt placeras i första rummet och prioriteras. Ju mer deras behov prioriteras, desto mer makt får de och deras gelikar.

    Vem har makten över besluten i utvecklingen? Kan vi förflytta/bredda makten på något sätt? Vilken insyn/transparens finns avseende beslutsfattandet?

    or04
  • Organisation 🫣

    Ansvarslöshet

    Det finns väldigt få mekanismer för att hålla digitala kreatörer ansvariga för de många verkliga skador som orsakas av design och utveckling av digitala tjänster och produkter. Ofta är såväl lagstiftare som maskinernas tillverkare omedvetna om skada. I andra fall kan maskinerna bli perfekta syndabockar.

    Hur säkerställer vi att det går att ta ansvar för effekterna och följderna av verksamheten? Hur vill vi att det ska vara? Ska man kunna gömma sig för att undgå ansvar?

    or05
  • Organisation 😵‍💫

    Digital inbillning

    Kunskapsfördelarna det ger att förstå teknik öppnar spelplanen för att inrama bekymmer och tveksamhet som användarens eller någon annans fel, så länge de är utanför organisationen. När användare skadas, leds de ibland att tro att det är på grund av deras egna handlingar, och att de därför förtjänat det.

    När/var/hur kan användare missförstå tekniken till sin egen nackdel? När skyller de på sig själva? Hur ger vi användaren förmåga att förstå bättre och/eller signalera sina missförstånd?

    or06
  • Organisation 📦

    Digital mörkläggning

    Det är lätt att dölja långtgående avtal och villkor på långt ifrån intuitiva digitala platser och i väggar av innehåll som döljs av bedrägligt språk eller oskyldiga fraser.

    Hur säkerställer vi att människor lätt hittar och förstår de regelverk som gäller, inklusive sitt eget ansvar? Hur kan vi med design göra risker och viktiga beslut mer tydliga utan att behöva hänvisa till villkorstexter? Hur påminner vi över tid eller när förhållanden förändras?

    or07
  • Organisation 🧷

    Naiv vårdslöshet

    I spåren av överförtroende och en naiv förståelse för både värdet av data och säkerheten inom online-lagring, hanteras ofta personlig information ovarsamt och tvivelaktiga aktörer får åtkomst.

    När, var och hur sparas information? Vilken information sparas och vilken behöver inte sparas? Hur agerar vi när något går snett?

    or08
  • Maskin 🤖

    Algoritmisk orättvisa

    Inget byggs som kan anses vara neutralt. Allt speglar värderingar och övertygelser hos skaparen, medvetet eller inte. Vi kan inte undvika maktobalans och vi kan inte undvika fördomar eftersom dessa nödvändigtvis kodas in i de automatiserade beslutsfattarna. Oroväckande är att fördomar och deras påverkan lätt kan göras exponentiellt mer effektiv, och därmed öka såväl räckvidden som allvarlighetsgraden av skadliga utfall.

    Hur vet vi vilka fördomar som kan förstärkas? Hur vet vi när fördomarna går för långt? Vilken osäkerhet kan vi acceptera? Hur mycket insyn måste finnas i hur lösningen fungerar? Vem kan hjälpa oss att förstå komplexiteten?

    ma01
  • Maskin 👾

    Osynligt beslutsfattande

    Ju mer komplexa algoritmerna blir, desto svårare är de att förstå. Ju mer autonomt de tillåts framskrida, desto mer avviker de från mänsklig begriplighet. Många företag kommer gömma proprietär kod och undvika granskning, ibland med resultatet att de själva tappar förståelsen för hela bilden av hur deras kod fungerar. Att avkoda och förstå hur beslut fattas kommer vara möjligt för allt färre antal människor.

    Vem behöver veta hur koden fungarar? Hur säkerställs insyn i koden? Hur hanterar vi kod som inte går att förstå? Vilka risker med osynlig kod finns och måste fler förstå?

    ma02
  • Maskin 🧠

    Psykisk styrning

    Med oändligt sammanflätadade datapunkter om individuell biologi och beteende kommer maskiner känna till mer om oss än vi själva har förmåga till. Det möjliggör kontroll och modifiering av beteenden på exempellösa och oförutsägbara sätt. Medan beteendeekonomi fortfarande påskiner en viss omsorg om mänskligt samtycke kommer det bli allt svårare att avgöra vem som har den egentliga makten. Det är en sak för övertalningsmekanismerna att vara dolda, en annan för dem att också styra människor med sylvass exakthet, alltjämt som människorna själva tror sig agera på egen hand.

    Vilka beteenden kan förstärkas eller försvagas? Hur kan relationen till samhälle, vänner och familj förändras? Hur vet vi vad som händer och hur bör vi uppmärksamma risker och effekter?

    ma03
  • Maskin 🦠

    Viral reproduktion

    Allt som skapas digitalt kan ha en exponentiell påverkan långt bortom skaparen kontroll.

    Vad kan vara positiva eller negativa virala effekter? Vad kan vi göra för att i förväg begränsa virala egenskaper som gör att organisationen förlorar kontroll? Hur kan vi hantera skadliga virala effekter?

    ma04
  • Samhälle 📏

    Lagen om kvantitet

    Snabbare, större och mer effektiv har aldrig varit lättare att mäta, och allt som kan belönas med ett nummer, rankning eller poäng blir ofta just det. Det är sällan av nödvändighet, eller med ett strategiskt mål i sikte, utan påfallande ofta för att "det är möjligt". Människor bedöms oftare med hjälp av siffror, ett sifferspel som nu genomsyrar näringsliv, hälso- och sjukvård, fysisk aktivitet och även antalet vänner.

    Vad mäter vi och varför? Vad mäter vi inte? Hur kan det vi mäter leda oss fel? Hur märker vi över tid hur våra mätningar potentiellt måste förändras?

    sa01
  • Samhälle 🧑‍💻

    Tekniksynthet

    (jämför: trångsynthet) När man snubblar över en ny samhällelig utmaning finns en utbredd tro och föresats att digital teknik ska användas för att lösa den. Denna doktrin är snabb att avfärda icke-digitala förslag. Inrotad i tekniksynhet är förstås en djup övertygelse om att teknik kan lösa problem men lika ofta en bländande oförmåga att ta till sig teknikens förmåga att skapa problem.

    Vilka problem skapar vi genom att digitalisera? Vilka delar skulle kunna fungera utan att digitalisera? Vad digitaliserar vi som egentligen skulle kunna elimineras?

    sa02
  • Samhälle

    Uppmärksamhetsekonomin

    Modern civilisation innefattar en tävling om uppmärksamhet vars målsättning gör det angeläget att skapa tillfällen för uppmärksamhet där den tidigare inte fanns. Det gör det lönsamt och eftersträvansvärt att verka för mindre sömn, mindre tid med nära och kära, att göra fler saker samtidigt, samt att förlita sig på beteendespårning och beteendemanipulation.

    Hur påverkar vi uppmärksamhet i liten och stor skala? Vilken del av uppmärksamheten som krävs/skapas gynnar eller motverkar välbefinnande? Kan vi bidra till en hälsosam användning av uppmärksamhet?

    sa03
  • Samhälle 📡

    Övervakningskapitalism

    Ju mer vi vet desto mer kan vi övertala och intala. Data om människor – förenat med deras uppmärksamhet – låter organisationer nå dem när de är som mest sårbara och mottagliga för specifika budskap. Det ökar enormt chanserna för att ett önskat beteende eller köp ska äga rum. Den som vet mest har mest makt och kan ta högst betalt. Marknaden belönar dem i stället för att ifrågasätta den övervakning som krävs för att ta den makten.

    Vilken information som vi sparar eller samlar in ger oss makt över människor? Vad bör vi göra med den informationen? Vad bör vi inte göra?

    sa04
  • Samhälle 🧌

    Otyglade trakasserier

    Plattformarna som byggs för att tillåta allt större antal deltagare och suga åt sig allt mer uppmärksamhet ger också ökade förmågor till var och en för att mobba, provocera och tyrannisera i stegrande omfattning och för eget nöjes skull. Digitala trakasserier och terror kan äga rum anonymt och dygnet runt, och utsätter ett stort antal människor för trauma och lidande som är allt svårare att kringgå när samhället kräver deras digitala närvaro.

    Hur kan vi motverka trakasserier innan de händer? Hur kan vi upptäcka trakasserier som uppstår på, eller med stöd av, vår verksamhet? Hur agerar vi när trakasserier sker?

    sa05
  • Människa 🛑

    Exkludering

    Språk, medborgarskap, fysisk förmåga och en mängd andra orsaker exkluderar människar från jämlik tillgång till det digitala. Men trots att digitala lösningar bär potential att inkludera långt fler så utvecklas det digitala fortfarande på sätt som håller den metaforiska dörren stängd. Organisationer väljer regelbundet att avfärda människor på grunden att de är marginella, eller med ursäkter som finansiella begränsningar eller standardiserade arbetssätt.

    Vem utesluter vi och varför? Vem överväger vi inte som målgrupp? Vad hindrar oss från att inkludera fler och vad skulle vi kunna vinna på att göra det?

    mn01
  • Människa 🤐

    Röstförtryck

    Sällan hörda röster söks inte upp för att delta i digital utveckling. I stället hörs de redan starka rösterna och får sina behov tillgodosedda medan de dämpade rösterna tystnar än mer. De undertryckta rösterna, ovälkomna på plattformarna, finner att de inte har någon. När de får en inbjudan kommer vissa människor fortfarande kämpa för att kommunicera likvärdigt på digitala plattformar som kräver en viss nivå av expertis och fallenhet för skrivande. Tvekan och ångest identifieras lättare i fysiska möten medan de lätt kan förbises online.

    Vilka användare finns som kanske vantrivs? Vilka missar vi i våra undersökningar och uppföljningar? Vems röster är starkast och ger kanske en missvisande bild av vad som funkar bra respektive mindre bra?

    mn02
  • Människa 🛋️

    Övergreppsstöd

    Teknik designad för att kontrollera saker visar sig snabbt lika kapabel att kontrollera människor. I våldsamma relationer har förövaren nu kontroll över lampor, dörrar, kommunikation och enheter med platsinformation. Systemen misslyckas med att erbjuda skydd för de som är föremål för teknik-rustade övergrepp.

    Hemma, på arbetet och i offentliga utrymmen, vem ges mer makt och vem fråntas makt? Hur kan tekniken användas för övergrepp och hur mycket bidrar vi till en ökad risk? Vilka åtgärder kan minska / motverka / eliminera missbruk och övergrepp?

    mn03
  • Människa 😶‍🌫️

    Integritetsförlust

    För åtkomst till tjänster har det blivit norm att betala med personlig information och det accepteras ofta utan någon some helst eftertanke. Förståelse är generellt låg för hur personlig data är lagrad, hur mycket som delas med andra och hur den används. Vi en given gräns övergår upplevelsen till resignation, där man accepterar villkoren inte för att det är en bra uppgörelse utan för att utbytet normaliserats och det uppstår en känsla av att det är för sent för ånger. Det finns en nedslående tolerans att dela inte bara sin egen data men också data om sina vänner och familj. Och önskan att förstå bättre tycks ebba ut över tid.

    Hur påverkar vi den personliga integriteten, såväl för användare som för icke-användare? Hur medvetna är människor om hur känslig deras information är, hur den hanteras, vilka risker som finns och hur den kan missbrukas? Hur kan vi hjälpa människor både förstå och känna förtroende?

    mn04
  • Människa 👨🏼‍🎤

    Beteendeförtryck

    Allt vi gör och säger kan hamna på internet. Allt vi gör och säger publikt kan spelas in. Allt vi gör och säger på arbetet kan mätas för att avgöra prestation. Vi vet att våra inköp hamnar i databaser eftersom bonusklubbar talar om för oss vad vi shoppar. Vår platsinformation spåras. Mötesverktyg kan mäta vår "uppmärksamhet". Friheten att agera begränsas alltid av farhågor om hur vår handling uppfattas utanför sitt sammanhang när den bedöms av en utomstående granskare. Antalet granskare ökar hela tiden.

    Hur förändras människors beteenden givet att information om dem syns eller behandlas? Hur skulle information kunna misstolkas av andra parter och bidra till skadliga slutsatser och effekter?

    mn05
  • Människa 🫆

    Biometriska övergrepp

    Insamling av biometrisk data ökar medan man ofta förbiser varaktigheten, och alltså även den enorma skörheten, i denna data. En gång förlorad biometrisk data kan sällan återfås, och kan användas för att identifiera även när anonymitet har utlovats. Den fortsatta insamlingen av jättelika mängder data om människor skapar biometriska markörer där många inte ens förväntat sig det: bortom fingeravtryck, ansiktsigenkänning och gångstil, finns redan användning av hjärtslagsigenkänning och knapptrycks-dynamik.

    Kan vi undvika att samla in biometrisk information och ändå uppnå syftet/funktionen? Hur vägleder vi människor bäst i beslut och interaktioner som innebär att biometrisk information samlas in? Vilka typer av biometrisk information som sparas behöver vi informera om?

    mn06
  • Översyn 🧱

    Permanent påverkan

    Många av problemen på den digitala arenan triggas av handlingar som inte lätt går att backa tillbaka. När data har delats kan det kopieras oändligt. När ett fingeravtryck har läckt så kan det inte ändras. När en algoritm för maskininlärning har implementerats kan få förstå den och ännu färre förändra dess beteende. Dessutom: värderingar idag kodas in i beslutssystem utan hänsynstagande till hur samhällsvärderingar förändras över blott ett par decennier. Fördomarna som gäller idag är vad vi lär de digitala system som tar beslut imorgon.

    Vilka beständiga egenskaper gör det svårt att förändra systemfunktioner i framtiden? Vilka grundpelare behövs för att produkten/tjänsten ska fungera (både tekniska och sociala)? Hur kan vi möjliggöra förändringar i produkten framledes när värderingar, arbetssätt, kunskap och miljö skiftar?

    ov01
  • Översyn 📚

    Utbildningsbrister

    Integritet, etik och dataskydd finns sällan på kursplanen för de utbildningsprogram som ger oss dagens digitala proffs. Ofta är förmågor inom design och programmering självlärda eller införskaffade via online-kurser utan tvärvetenskapliga lärdomar. Allteftersom efterfrågan på digitala utvecklare och kreatörer ökar så lägger arbetsgivare minimal vikt vid förmågan att bry sig om, och resonera kring, mänskligt och universellt välmående.

    Hur kan digitala kreatörer bättre rustas för att ta beslut som påverkar välbefinnande för människor, samhällen och natur? Finns det särskilda områden inom etik, filosofi och mänskliga rättigheter som berörs av det vi gör? Kan vi på olika sätt uppmuntra till mer hänsyn i dessa frågor?

    ov02
  • Översyn 🧑‍⚖️

    Brister i reglering

    Lag och policy försöker ofta rikta in sig på varje teknik individuellt och missar viktiga delar av det övergripande perspektivet. Förändring kan ske snabbare än regleringar hinner med, vilket ger en indikation om att lagstiftningen skulle kunna se över hanteringen av förändringstakten i sig självt, samt premisserna för förändring. Hur många gånger på en livstid bör en medborgare behöva lära om hur man söker jobb, köper en bussiljett eller bokar ett läkarbesök – och vem bör bära kostnaden av den omlärningen?

    Vilka lagar lyder vi under? Hur fungerar tillsyn inom vårt område? Vilka brister i regleringen kan vi se, som påverkar organisationen, individen och/eller samhället i stort? Kan vi skapa förtroende genom att beskriva hur vi själva agerar utifrån dessa insikter?

    ov03
  • Översyn 📯

    Privat-offentlig infrastruktur

    Många länder rör sig mot den informella acceptansen av privatägda tjänster som plattformar för publika diskurser och yttrandefrihet, där även offentliga verksamheter ofta hänvisar till kanaler i regi av bolag i tredje land, ofta USA. Och fortfarande är det förstås så att kontrollen över plattformarna och deltagarna bestäms av de privata bolagen, samtidigt som jämlik åtkomst inte krävs av dessa bolag på samma sätt som av offentlig sektor. Det skapar många gråzoner och förvirring gällande skyldighet, tillgänglighet och ansvar, samtidigt som det påverkar människors förmåga att delta i ett öppet samhälle.

    Vad händer om vi betraktas som infrastruktur för samhällen eller hela länder? Vad behöver vi ta ansvar för? Vad behöver vi förtydliga att vi inte tar ansvar för? Vad vill vi ska hända och hur rör vi oss i den riktningen?

    ov04
  • Översyn 🗺️

    Geografisk friktion

    I försök att styra över digitala tjänster så är regeringar i stor utsträckning begränsade av fysiska gränser och rättskipningsområden som de digitala systemen gärna förbiser. Många länder ser sina medborgare, och företag, anamma och knyta sig till verktyg och tjänster som är svåra att påverka med nationell eller regional lagstiftning.

    I hur stor utsträckning tar vi hänsyn till varierande krav och lagar baserat på region och land? När spärrar vi innehåll och vilka konsekvenser kan det få? Hur hjälper vi användare förstå hur funktioner kan vara annorlunda givet var de befinner sig? När människor reser, vilken vägledning ger vi?

    ov05
  • Miljö 👨🏾‍💻

    Exploaterad arbetskraft

    I tjänster där miljoner människor bjuds in för att publicera innehåll finns alltid en andel skadligt och olagligt innehåll som måste filtreras och gallras. För att hantera detta kan lågavlönade arbetare behöva sålla igenom till exempel grovt hatfyllda kommentarer, tortyr mot djur och människor och sexuellt våld utan samtycke. Arbetare påverkas ytterligare av förståelse för den skada som deras egen arbetsplats bidrar till, samtidigt som deras förhållanden kan göra det oerhört svårt för dem att vägra bidra till den skadan.

    Hur tar vi ansvar för människorna bakom kulisserna? Vad gör vi för att säkerställa att leverantörer respekterar välbefinnande och värdighet? Vad begär vi av leverantörer och av oss själva? Vad synliggör vi och vad döljer vi?

    mi01
  • Miljö 🪏

    Ovärdig försörjningskedja

    För att realisera digitala tjänster och lösningar behöver vi hårdvara och mjukvara. Bakom produktionen av dessa kan det finnas en lång kedja av förtryckande relationer och exploatering av arbetskraft. Ett exempel är det stora behovet av kobolt, som används i litium-batterier, som ofta utvinns under orättvisa förhållanden i grymma miljöer påminnande om slaveri (inte sällan är det slaveri). Att inte överväga vilken roll man själv har, och vill ha, i försörjningskedjan som krävs för att lansera digitala tjänster är att ignorera ansvaret för den potentiella skada man åsamkar andra.

    Vad vet vi om de beståndsdelar och komponenter som krävs för vår egen utveckling och för våra produkter? Hur kan vi synliggöra, ställa krav på och agera för att minska och eliminera lidande?

    mi02
  • Miljö ⚖️

    Ojämlik tillgång

    Endast strax över hälften av jordens befolkning har tillgång till internet och inom olika länder varierar åtkomst och tillgång till specifika tjänster. Inom vissa länder används internet systematiskt som en förtryckande kraft genom att stänga och öppna tillgång under samhällelig oro som protester och våldsaktioner. Idag finns nästan 7000 språk och dialekter i världen, men 98% av innehållet publiceras på bara 12 språk. Mer än hälften på engelska. Ofta omtalat som öppet är det viktigt att uppmärksamma hur internet är stängt för ett stort antal människor runtom i världen, och att reflektera över konsekvenserna av att ignorera dem.

    Vilka utestängs från tillgång och förmåga att använda? Hur förändras och förvärras maktbalans? Finns intresse för oss att nå fler och hur skulle det se ut och gå till?

    mi03
  • Miljö 🏭

    Ekologisk försummelse

    När digitala tjänster växer kräver de mer i energiåtgång, mer transporter av varor och stora datacenter som tränger undan landmassor och människor. Det är lätt att förbise den övergripande miljöpåverkan som kreativt skapande i den digitala industrin står för när det sällan mäts, och andra mätvärden får större vikt. Som alltid kan inte alla variabler växa till det bättre på samma gång, och vi måste vara medvetna vad som växer till det sämre baserat på våra handlingar.

    Vilka förbättringar respektive försämringar bidrar vår verksamhet till? Vad mäter vi och vad tar vi hänsyn till? Hur kan vi bättre bedöma om verksamheten förbättrar något utan att försämra annat?

    mi04

v1.3.2