Per Axbom's Blog, page 3

Digitalsamtal: ett podd­avsnitt om digital omtanke

Årets första avsnitt av podden Digitalsamtal med Anders Thoresson, innehåller en intervju med mig om Digital omtanke, såväl boken som konceptet. Vi pratar om allt från utmaningen med yrkestitlar till svårigheten med mätvärden som kan få oss att missa hänsynen till vanliga människors välmående. Det blir i slutändan av yttersta vikt, menar jag, att involvera människor med många olika erfarenheter i varje form av nyskapande, för att säkerställa att vi minimerar negativ påverkan. Lyssnandet, som jag så ofta för fram, är nyckeln till att hitta rätt etiska riktning inom organisationer.

När man lyssnar på podd så är det inte alltid helt uppenbart var man ska lyssna om man inte redan har sitt favoritsätt. Så jag ger dig lite olika alternativ:

Digitalsamtals egna webbsida: #210 Vi behöver mer digital omtanke
Spotify: #210 – Vi behöver mer digital omtanke
Apple Podcasts: #210 – Vi behöver mer digital omtanke
Overcast: #210 – Vi behöver mer digital omtanke

Du kan köpa handboken Digital omtanke hos Bokus eller direkt av mig.

Om Dagens industri och deras bondfångeri

Prova på tidningen Dagens industri i 3 månader för blott 49 kronor. Missa att avbeställa så sitter du med en nota på cirka 3.300 kronor. Precis så illa är det i Dagens industris pågående ocker-kampanj. Jag vädjar till alla som läser: sluta gå med på den här typen av provperioder. Och till Dagens industri: jag kan hjälpa er ur detta beroende.

Vi börjar med erbjudandet, där det först känns som att kampanjsidan inte kan vara tydligare än denna rubrik: “Di Digitalt 3 månader för 49 kronor – avsluta när du vill under provperioden”.

Här är samma budskap på Di:s Twitter:

Dagens industri på Twitter i november 2019

Det är det första budskapet, men det stämmer inte. Hanna skriver på Twitter hur hon fick erfara att det tydligen finns finstilt någonstans att uppsägningen måste ske 7 dagar innan provperiodens slut. Annars övergår den till 12 bindande månader.

Är du en av alla som nappade på DagensIndustris kampanj att prova på deras tidning för 49/mån i tre månader?

Jag läste inte det finstilta att man måste säga upp prenumerationen senast 7 dagar innan prövotidens slut för att inte AUTOMATISKT TVINGAS TILL 12 MÅNADERS PRENUMERATION!

Och så har vi Johan som fick fakturan för den digitala tjänsten förra året, först efter att dessa tolv månader passerat, vilket ger att han kommer tvingas till att betala ytterligare tolv månader. Så här skrev han till Dagens industri.

Känner mig otroligt lurad och dåligt behandlad av er , tecknande detta scam erbjudande förra sommaren. Inte nyttjat tjänsten alls mer än första månaden, sedan glömde jag av det och har inte fått någon faktura alls från er fram till idag dök det upp en faktura på 2233 kr!!!

Så här svarar Dagens industri själva när Hanna försöker påtala det orimliga i att bli intvingad i 12-månaders bindningstid:

Hej igen,

Vid godkännande av provmånaden godkänner man även prenumerationsvillkoren där det framkommer att man måste meddela Dagens industri om att man vill avsluta sin prenumeration senast 7 dagar innan provperioden löper ut. Jag kan tyvärr inte se någon notering kring att vi mottagit en uppsägelse från er innan 2019-12-17.

Jag ber att gärna skicka in en skärmdump på er orderbekräftelse från att ni tecknade denna provperiod, framkommer det att det inte sker en automatisk förnyelse med 12 månader efter dessa 3 provmånader avslutar vi självklart prenumerationen åt er direkt.

Önskar er en trevlig dag!

Märk väl här att Dagens industris kundtjänst begär att deras kund ska bevisa att det INTE ska ske en automatisk förnyelse med 12 bindande månader. Det är en omvänd bevisbörda som heter duga. Rimligen bör Dagens industri, som tar pengarna, kunna bevisa att de får göra det.

Under annonsen på Twitter kan man också utläsa fler kommentarer som “Vilka praktsvin!”, “Di blåser folk så det visslar om det.” och “Bondfångeri!”. Jag får inte känslan av att någon lyssnar.

Just ordet bondfångeri fångar väldigt väl vad det här handlar om. I denna moderna form av lurendrejeri handlar det, precis som bondfångeri alltid gjort, om att vinna förtroende hos en person för att sedan bedra denne, ‘ofta i syfte att tillskansa sig pengar’.

Under vilka villkor är det okej att en provprenumeration på 49kr automatiskt uppgraderas till ett bindande avtal på ett år om totalt 3.300 kronor? Generellt i Sverige så måste du vara medveten om, och ge ditt samtycke till, ett avtal som sträcker sig över ett år. Det ställer höga krav på informerat samtycke. I Marknadsdomstolen finns mål 2005:34 som poängterar att näringsidkaren måste i rimlig tid och i lämplig form påminna konsumenten innan uppsägning skall ske. Särskilt när handlar om en så lång bindningstid som 12 månader.

Hela texten:

MD 2005:34

Ett tidsbegränsat avtal, som löper för en period om 12 månader, om digital-TV-abonnemang till konsumenter har innefattat villkoret att om uppsägning inte sker senast 30 dagar före gällande abonnemangsperiods utgång så förlängs avtalet automatiskt med ett år i taget med samma uppsägningstid. Med hänsyn till att avtalet inte ålagt näringsidkaren att i lämplig form och i rimlig tid påminna konsumenten innan uppsägning skall ske samt till den i sammanhanget förhållandevis långa bindningstiden har villkoret befunnits oskäligt.

Varför finns de här lagarna om avtalsvillkor i konsumentförhållanden? Jo, för att vi vet att människor är glömska, ibland svaga, ibland utsatta. Vi vet att alltför många företag väljer att utnyttja mänskliga egenskaper som “tro gott om någon”, bristande koncentration och varierande, situationsberoende mentala kapaciteter. Precis därför finns dessa principer, för att skydda vanliga människor från organisationer som beter sig som Dagens industri gör här.

Men innan jag ger mig in i att kommentera den uppenbart omoraliska gyttja som Dagens industri trampat ner i så tänkte jag att jag själv skriver upp mig och betalar för provperioden. Jag vill att du ser hur det funkar.

Bildspelet innehåller skärmdumpar från det flöde jag beskriver nedan:

Click to view slideshow.

Jag klickar på annonsen på Twitter
Jag kommer till kampanjsidan. Där finns ingen villkorstext. Det finns en kolumn med lite mindre text och lägre kontrast som meddelar “Efter tre månader löper prenumerationen vidare med 30% rabatt i 12 månader. Du betalar 279 kr/månad (ord.pris 399 kr/månad) och sparar över 2500kr”. Det står inget om att man inte får säga upp prenumerationen under den perioden. Det står också i en tydlig rubrik “avsluta när du vill under provperioden”.
Jag anger en e-postadress och klickar “Nästa”.
Nu kommer jag till en sida där jag ska välja “Företag” eller “Privatperson”. Fortfarande finns ingen villkorstext. Jag klickar Nästa.
Nu kommer jag till en sida där jag börja ange uppgifter för betalning via Klarna. Det börjar med mobilnummer. Den som är oerhört uppmärksam ser nu att det i botten av sidan dykt upp en pytteliten text. Om du är på en mobil bläddrar du säkert aldrig ner så att du ser den.

Denna pyttelilla text återger följande:

Genom att klicka på “Godkänn köp” godkänner jag Dagens industri AB:s prenumerationsvillkor och bekräftar att jag tagit del av Dagens industri AB:s personuppgiftspolicy.

Den som tecknar avtalet ska alltså ha läst igenom prenumerationsvillkoren och personuppgiftspolicyn och godkänner dessa genom att bara klicka på en knapp som heter “Godkänn köp”.

Det finns några problem med detta.

Det är tveksamt hur väl detta följer Marknadsföringslagen, den lag som ställer krav på att marknadsföring inte ska ha en negativ påverkan på din förmåga att fatta ett välgrundat köpbeslut.
Information är dold i den mån att den är uppenbart svår att upptäcka. Är man på mobilen finns inte ens skäl att bläddra till botten av sidan eftersom det inte är där frågorna ställs. Att informationen når konsumenten kan alltså inte på något sätt anses vara säkerställt.
Godkännandet sker inte via en medveten handling, som att till exempel kryssa i en ruta. Detta trots att det är den enda signalen där en konsument har möjlighet att klicka vidare och läsa i några minuter för att upptäcka att deras 3-månaders provperiod övergår i ett obligatoriskt 12-månaders avtal, för att själva sedan i bästa fall räkna ut att det innebär en kostnad på mer än 3.300 kronor.
Det finns heller ingen knapp som heter “Godkänn köp”.

BILD: På mobilen upptäcker man inte länken till prenumerationsvillkor eftersom den är utanför den synliga ytan som man jobbar med.

 

BILD: Flödet i mobilen fram till betalning.

Låt oss stanna upp en stund vid Di:s prenumerationsvillkor. Det är en separat sida med en text på 1185 ord som tar ungefär fem minuter att läsa om man läser rakt igenom utan att fastna på några formuleringar. Vilket jag lovar att du gör.

Här kan vi under rubriken Tillsvidareprenumeration mycket riktigt läsa

Prenumerationsformen hos Di är tillsvidareprenumeration, vilket innebär att prenumerationen beställs och levereras för den tidsperiod som avtalats med automatisk förnyelse till samma periodlängd om du inte själv säger upp prenumerationen senast sju (7) dagar innan avtalsperiodens slut.

Det här stämmer förstås inte med vad som står på kampanjsidan, där det framgår att man får säga upp när som helst under provperioden. “Prenumerationen beställs och levereras för den tidsperiod som avtalats.” står det också. Men vänta nu — jag har ju bara avtalat om 3 månaders provprenumeration, tänker jag. Räcker det verkligen att skriva i en sidospalt att jag får rabatt med 30% i 12 månader för att jag ska förstå att jag också förbinder mig i 12 månader?

Budskapet blir tyvärr också ännu mer grumligt när jag läser under rubriken Digital prenumeration, vilket ju detta är.

En digital prova på-prenumeration övergår vid periodens slut automatiskt till en löpande prenumeration till ordinarie pris såvida du inte säger upp din prenumeration innan prova på-periodens slut.

“Innan prova på-periodens slut” säger förstås inget om de 7 dagarna. Och en “löpande prenumeration” säger inte heller något om 12 månader utan möjlighet till uppsägning.

De 7 dagarna dyker dock upp allra längst ner i villkorstexten igen, under rubriken Uppsägning av prenumeration.

Om du vill säga upp din prenumeration ska detta ske senast sju (7) dagar innan avtalsperiodens slut. Prenumerationen kan inte sägas upp förrän den avtalade bindningstiden löpt ut. Utebliven betalning gäller inte som uppsägning. Vi tar emot uppsägning per telefon 08-573 651 00 (knappval 5) helgfria vardagar 8-17 och via brev till Dagens industri, Kundservice, 112 60 Stockholm. Du kan även skicka in din uppsägning i inloggat läge via Mina Sidor.

Ingenstans står det i klartext att jag förbinder mig till 12 månader utan möjlighet till uppsägning. Jag skulle med lite vilja kunna pussla ihop det med formuleringar som är utspridda lite varstans, men jag kan också tolka det som att jag får fortsätta prenumerera med 30% rabatt i 12 månader, men att jag kan säga upp innan dess om jag inte vill utnyttja den rabatten. Villkoren pratar nämligen om när prenumerationen övergår till ordinarie pris, vilket kampanjsidan inte alls handlar om.

Glöm inte heller personuppgiftspolicyn, som vi automatiskt godkänner genom att teckna provperioden. Det är en nätt liten text på cirka 6.500 ord som tar ungefär 27 minuter att läsa för mig. Om det tar mindre än 30 minuter att teckna din provperiod så har du sannolikt inte läst dessa två texter som du godkänner, vilket näringsidkaren är glatt medveten om.

Kom ihåg att vi alla vet, såväl näringsidkare som konsument, att i princip ingen klickar sig in på villkorstexten och läser den. Det vore löjligt att hävda något annat.

Tillbaka till flödet. Nu när alla konsumenter upptäckt, läst och tolkat prenumerationsvillkoren rätt (obs! ironi)  så har sessionen förhoppningsvis inte dött och vi kan fortsätta med betalningen.

Jag matar in mobilnummer, får en kod till mobilen och skriver in denna.
Jag skriver in e-postadress igen och tvekar vid fältet personnummer.
Jag upptäcker att jag kan välja att “Hoppa över personnummer”, vilket jag gör.
Jag registrerar ett betalkort och klickar på knappen “Godkänn 49kr (1kr reserveras och återbetalas”.
Jag godkänner köpet med mobilt bank-id.
Sedan tar det stopp för mig. Jag vet fortfarande inte varför. Sidan där jag matade in uppgifterna blir blank och jag får ingen bekräftelse, vare sig på sidan eller via mejl.
Jag tänker att något gick fel och börjar nästan göra om allt en gång till.
Jag inser dock att jag kan logga in i min Klarna-app och kolla om det dragits något.
Mycket riktigt så har det dragits 1 krona.
Jag provar att logga in med min e-postadress, väljer glömt lösenord men får beskedet att det inte finns något konto med den adressen.
Frågan som kvarstår, för mig, är hur det då kunde reserveras en krona på mitt kort.

Det blev ett anti-klimax och ett mysterium i mitt fall. Eventuellt beror det på att jag blockerar så kallade trackers men jag vet alltså ännu inte om jag ens har tecknat provperioden. Det är dock inte det viktigaste. 

Det centrala i hela den här röran är hur Dagens industri med gott samvete kan behandla sina kunder så samvetslöst. Kanske är de snubblande nära att bryta mot marknadsföringslagen, kanske inte. Men gränsen för etiskt beteende är tydligt överskriden.

Så här är det. Vi ser alla hur vilseledande marknadsföringen är, hur man vägleds till köp och hur svårt det är att upptäcka och förstå den tvingande bindningstiden på 12 månader. Inte bara saknas påminnelse om att provperioden håller på att gå ut, steget från en utgift på 49kr till 3.300 kronor är tydligt svindlande.

Det finns alltid personer som i dessa situationer starkt vidhåller att alla människor helt enkelt bara borde säga upp direkt och så är det med det. Men vi människor är olika. Och vi har olika förutsättningar och kunskaper och förmågor. Vi är i olika grad utsatta och utnyttjade. Gissa vilka som oftast råkar illa ut? De som redan har det kämpigt. De som redan vänder på kronorna, sliter med hälsan, inte har förstått att misstänka manipulation, som redan sagt ja till tio telefonförsäljare och helt enkelt är utmattade av andra händelser i livet.

Den som lockas av ett erbjudande på 49 kronor är den som har ont om pengar. Inte den som har 3.300 kronor att avvara. Det får inte vara svårt att förstå hur viktig den insikten är.

Om lagen inte klarar av att skydda dessa människor i det här läget så hoppas man ändå att ett den etiska kompassen hos ett medieföretag  ska visa sig vara inställd på att stötta medborgarna. Att känslan för samhällsansvar ska sträcka sig även till hur man bemöter sina kunder.

För är det något som gör ont att se så är det när medier, som gärna talar vitt och brett om hur de står på medborgarnas sida och granskar makten, själva demonstrerar arbetssätt som exploaterar människors svagheter. Det är ett tydligt svek.

Vad kan du göra nu?

Håll dig borta från den här typen av erbjudanden. Även om du själv har metoder för att undvika förlängningar och avgifter så är det byggda för att snärja de som i stunden är svagare än du. Ge inte ditt stöd till uppenbara fällor.
Är du utsatt? Kanske kan Klagoguiden vägleda dig rätt.
Kommentera gärna och berätta om dina egna erfarenheter.
Dela den här artikeln och uppmana till en bred granskning av mediernas egna metoder och processer för att manipulera konsumenter till köp.

Att hota med Allmänna Reklamationsnämnden kan kanske hjälpa. Så här skriver Kristoffer på Twitter:

Jag lyckades få dem att häva prenumerationen efter att ha meddelat att jag annars skulle anmäla till ARN och att ta frågan vidare rättsligt

Till Dagens industri

Det finns alltid skäl till att man hamnar i den här situationen. Ingen är sämre än att de kan göra bot och bättring. När man hamnar i en oetisk beroendecykel innebär det att man tjänar så mycket pengar på en oetisk handling att man får svårt att hitta skäl att avbryta det fortsätta utövandet av den handlingen. Genom att lyfta och synliggöra värden utanför det monetära — såsom hälsa, autonomi och integritet — kan det bli lättare att välja rätt väg. Jag kan hjälpa, genom att vägleda och utbilda i processer och verktyg för radikal omtanke och hållbara lösningar. Om ni vill lätta på hjärtat så lyssnar jag.

Relaterade länkar

Ett stärkt konsumentskydd vid automatisk avtalsförlängning – Regeringen.se
Tydligare regler vid konsumentavtal – Regeringen.se
Hela upplevelsen beskriven av @gothbarbie84, tydligare än jag kunde göra

Five reasons why I deleted my Facebook account

Here are the most clear-cut reasons I deleted my Facebook account. These Facebook practices triggered ethical considerations that helped decide on a path forward that would bring me, personally, more well-being.

Systematically using methods to encourage addictive behavior .
Allowing verbal abuse and sexual harassment on its platform under the guise of ‘free speech’, effectively silencing many voices.
Generally using dark patterns to coerce people to disclose more data about themselves.
Collecting extensive amounts of deeply personal data for the benefit of their customers, the advertisers who can target vulnerable users with concerning precision. For example: Facebook told advertisers it can identify teens feeling ‘insecure’ and ‘worthless’. Their use of the data is furthermore often reckless, such as when Facebook recommended that this psychiatrist’s patients friend each other.
Not assuming responsibility for — and providing no transparency around — the many content moderators hired to police their platforms and spend their working days watching severe violence against animals and humans, including murder and bestiality.

Alas, based on my own values and insights I want to feel better about what platforms and services I support by using them. There are many companies with unethical practices, but in the end the insights brought to light about Facebook crossed the line for what I am willing to accept too many times. In accordance with my own messaging around digital compassion it finally became impossible to motivate why I had an account.

Best thing is that well over a month since I deactivated the account (I have since deleted it) I did not miss it for a second.

I will not judge people who stay on the platform. We all make choices about what makes us feel better or worse. In my case I do a great deal of introspection and the only path forward for me became very clear. I encourage everyone to figure out their own values and goals, care about their own well-being as well as the well-being of others, and choose their own path.

The most common reason I hear people stay with the service is for the groups, and fear of missing out. If that’s the case for you, you may want to have a look at some Ethical alternatives and resources for messaging and collaboration.

Always remember, though, that what we want doesn’t always make us happy.

I’ll end with a list of reference links for anyone who wants more detail on what I am referring to above.

Reference links

On encouraging addictive behavior

“It’s a social-validation feedback loop … exactly the kind of thing that a hacker like myself would come up with, because you’re exploiting a vulnerability in human psychology. The inventors, creators – me, Mark [Zuckerberg], Kevin Systrom on Instagram, all of these people – understood this consciously. And we did it anyway.”

Why Twitter, Snapchat, and Facebook Are So Successful: Behavioral Economists Point Out This 1 Key | Inc.com
Designing Emotion: How Facebook Affordances Give Us The Blues – Cyborgology
Facebook admits it poses mental health risk – but says using site more can help | Technology | The Guardian
‘Never get high on your own supply’ – why social media bosses don’t use social media | Media | The Guardian
The scientists who make apps addictive | 1843
Tech addiction • Look beyond the word — it’s about human well-being • axbom.blog


Free speech abuse

“A world in which no one’s voice was silenced but the public square was flooded with hate and disinformation would not represent a triumph of free speech.”

Revealed: Facebook’s internal rulebook on sex, terrorism and violence | News | The Guardian
Facebook isn’t free speech, it’s algorithmic amplification optimized for outrage
The Unsafety Net: How Social Media Turned Against Women – The Atlantic
How Social Media Can Silence Instead Of Empower
Facebook and Free Speech Are Different Things | Knight First Amendment Institute


Dark patterns

“Dark UX patterns help companies maximize profits, but at the expense of the most vulnerable, and by damaging the web for everyone.”

Study calls out ‘dark patterns’ that push users towards less privacy
The report Deceived by Design (PDF), by Forbrukerrådet. How tech companies use dark patterns to discourage us from exercising our rights to privacy
Dark patterns Facebook uses to stop you from deleting data
Privacy Zuckering – A Type of Dark Pattern
Are Notifications A Dark Pattern? | Designlab
Facebook Got Caught Phishing For Friends | Electronic Frontier Foundation
Facebook responds to senators’ questions on location tracking policy
How Dark UX Patterns Target The Most Vulnerable | Webdesigner Depot


Privacy and targeting

“Behind the Facebook profile you’ve built for yourself is another one, a shadow profile, built from the inboxes and smartphones of other Facebook users.”

How Facebook Figures Out Everyone You’ve Ever Met
Facebook tracks everything you type even if you DON’T post the update or comment | Daily Mail Online
How Facebook Is Giving Sex Discrimination in Employment Ads a New Life | American Civil Liberties Union
Facebook told advertisers it can identify teens feeling ‘insecure’ and ‘worthless’ | Technology | The Guardian
Facebook apologises over ‘cruel’ Year in Review clips | Technology | The Guardian
Facebook apologizes for showing baby product ads to woman who lost her child – CNET
Facebook confirms 419m phone numbers exposed in latest privacy lapse | Technology | The Guardian
Facebook Figured Out My Family Secrets, And It Won’t Tell Me How
Facebook recommended that this psychiatrist’s patients friend each other
Eric Meyer on Twitter. Facebook suggested his daughter’s passing as a “moment to remember”. He was invited to talk to the design team. Then it happened again.
* Josh Constine’s thread on Twitter. Facebook has allowed so many worst-case scenarios to come true there’s too many to count, but I’m going to try *deep breath*
Facebook and the endless string of worst-case scenarios


The Facebook moderator experience

“The panic attacks started after Chloe watched a man die. She spent the past three and a half weeks in training, trying to harden herself against the daily onslaught of disturbing posts: the hate speech, the violent attacks, the graphic pornography.”

Underpaid and overburdened: the life of a Facebook moderator | News | The Guardian
Bodies in Seats. Facebook moderators break their NDAs to expose desperate working conditions – The Verge
Bestiality, Stabbings, and Child Porn: Why Facebook Moderators Are Suing the Company for Trauma – VICE
The Trauma Floor – The secret lives of Facebook moderators in America – The Verge

 

Finally, here’s a video on how to export and download all your Facebook data.

How to help events become more inclusive

To allow as many people as possible to participate and benefit from an event, there are many things to consider. It’s no surprise then that organizers often miss details that can help people feel welcome and seen, and that could make or break their ability to take part in the experience.

Too often it falls upon those who are already vulnerable, sidestepped, and with permanent or temporary needs for specific considerations, to fight for their own rights. But it is obviously not fair that people who already experience obstacles are hit twice by also having to fight to be seen and heard.

You can help.

Even if you do not see yourself as requiring these considerations, you can voice your compassion by attending events that do make efforts towards inclusion. When you pay for events that exclude people, the problems persist. When you encourage the desired behaviors you unburden people who are fighting these obstacles daily.

You can also choose to be more proactive. If there is no clear information on accessibility, inclusion and sustainability, send an e-mail with some questions. This also helps organizers improve their communication and work towards a more compassionate mindset.

Here is a template you can use. Use the questions that make sense to you and are relevant for the event.

Subject: Before I buy a ticket

Hello!

I am interested in attending your event. Before I buy a ticket, however, I want to inquire about some information I was unable to find on the invitation and website.

Are the premises adapted for easy access for people with mobility constraints?
Is there support to access the content (for example speaker system, hearing loop, sign language, live captioning)?
Have you taken into account sensory impact to reduce audiovisual overload and/or provide a calm space for quiet recovery?
Is there clear signage so that one can easily wayfind without having to find someone to ask?
Is there a clearly designated person and/or channel to report experienced discomfort if this occurs (harassment, prejudice, etc.)?
Is there a clearly designated person and/or channel to opt out of photography and sound recording, or sharing of contact information? What does the routine look like for honoring these requests?
Have you taken into account food allergies and fragrance sensitivity?
Is there a strategy to minimize climate impact?
Have you received professional guidance on inclusion and sustainability?

Obviously, clarity around these issues in advance help many people arrive well-prepared to your event.

Thanks for your help!

.signature

I’m not asking you to boycott all events that fail to live up to these considerations. But the answers to these questions will certainly provide you with a better understanding of the organizer’s values and intent. Increased awareness also helps promote the pace of change.

Thank you for your consideration!

Den blodiga historien bakom ditt telefonbatteri

Den 30 december 2019 publicerade DN min insändare om den blodiga historien bakom batterierna i våra tekniska prylar. Under DN Åsikt rubriksattes den som “Byt inte ut elektronisk utrustning i onödan”.

Uppdatering: Insändaren, som DN inte betalade mig för, är tyvärr nu bakom en betalvägg. Så jag har lagt hela texten här.

Jag vill med min insändare belysa systemiska orättvisor, kanske speciellt när människor som behandlats illa i århundraden fortsätter att bli exploaterade. Det är komplext, och det finns inga enkla lösningar även om min text kan ge ett litet sken av det. Men människor far illa, slavliknande förhållanden råder på många platser, och för att närma oss lösningar måste vi prata om det. En av de som besökt Kongo-Kinshasas gruvor flera gånger är författaren och forskaren Siddharth Kara. Läs gärna mer av honom om du vill gå djupare.

Den blodiga historien bakom ditt telefonbatteri

Frédéric var nio år när han slutade skolan och började arbeta i kobolt-gruvorna i Kongo-Kinshasa. Hans familj hade inte råd med skolavgiften på 50 kronor per månad. År 2016, när han var femton år, arbetade han som tranportör och bar stora 30-kilos säckar med kobolt-rika stenar nerför ett brant berg. Han klarade av 7 rundresor på den 700 meter långa sträckan varje dag och fick för det en dagslön på cirka 7 kronor. Vid ett tillfälle när han gick nerför berget föll han fem meter ner i en tunnel, bröt ryggraden och blev förlamad från bröstkorgen och neråt.

Pojken heter egentligen något annat och hans öde i gruvorna är ett av många som beskrivs i en stämningsansökan som lämnades in i Washington DC förra veckan. Stämningen som lämnades in av International Rights Advocates företräder 14 föräldrar och barn från Demokratiska Republiken Kongo. Företagen Apple, Google, Microsoft, Dell och Tesla anklagas för att väl känna till arbetsförhållandena i landets gruvor, och att medvetet tillåta den exploatering av barn och riskfyllda arbetsförhållanden som varje år leder till hundratals dödsfall, och ännu fler allvarliga olyckor.

Varje smartphone, läsplatta, elektriskt fordon eller annan pryl med ett laddningsbart lithium-batteri kräver kobolt för att kunna laddas upp. Och mer än 60 procent av världens kobolt kommer från Kongo-Kinshasa. En eller flera av dina “smarta” prylar innehåller med stor säkerhet kobolt från Afrikas näst största land. Men även tenn som används för att löda, tantal som används för att lagra elektricitet i kondensatorer, och wolfram som får apparater att vibrera.

För att börja förstå kongolesernas utsatthet får vi backa några hundra år. Kongo-Kinshasa var grogrund för slavhandel och det beräknas att under 1500 till 1800-talet bortrövades flera miljoner slavar runt Kongobäckenet, världens näst största regnskogsområde som breder ut sig i ett brett bälte längs med Kongofloden.

När slavhandeln blev olaglig fick man inte många års andrum. Kung Leopold II av Belgien intog 1870 Kongodeltat och tvingade lokalbefolkningen till slavarbete inom landet, för att utvinna naturtillgångarna elfenben och gummi. Byar som inte vek sig för honom förstördes och arbetare som protesterade straffades med amputering eller avrättning.

När de till slut nådde självständighet från Belgien 1959, fick befolkningen länge genomlida några av de mest korrupta ledarna, för att senare drabbas av konflikter och flyktingvågar från gränsande Rwanda, i följderna av det som kallas “Afrikas första världskrig” och har krävt sex miljoner människoliv.

Exploateringen av de oerhört fattiga och maktlösa kongoleserna och deras naturtillgångar fortsätter nu in på 2000-talet när teknik-företagen har ett enormt behov av kobolt för att produkterna de tjänar pengar på ska kunna leva vidare. Och för att du och jag ska kunna bära runt Internet i fickan. Människorättsorganisationen Free the Slaves vittnar om fortsatt slaveri inom gruvindustrin i östra Kongo-Kinshasa.

Stämningen pekar på hur teknikföretagen är uppenbart medvetna om missförhållandena, vilket exemplifieras med de människorätts-program som företagen finansierar. Dessa är ofta fokuserade på att möjliggöra visselblåsar-mekanismer så att människor “anonymt kan rapportera oegentligheter på sitt lokala språk så att anklagelser om misskötsel kan synliggöras och rapporteras”. Men funkar det? Stämningen menar att det är världsfrånvänt att förlita sig på visselblåsare med tanke på att den kongolesiska befolkningen är en av de mest förtryckta i världen.

Apple och andra företag hänvisar till att desperat fattiga, alltmer utsatta människor som i stort saknar läs- och skrivförmåga, ska lista ut Apples verktyg för klagomål och rapportera överträdelser i leveranskedjan. Människor som säkert inte har råd med persondatorer eller iPhones och inte har internet eller mobil-åtkomst för att kommunicera med världen utanför, inom kontexten av av en våldsam regim som inte tolererar avvikande åsikter och en oreglerad industri som utan konsekvenser kan bestraffa visselblåsare. (min översättning)

Även om denna stämningsansökan kanske inte når hela vägen — det är känt att Tesla får sin kobolt från Filippinerna — så är det bortom alla rimliga tvivel att tiotusentals djupt fattiga människor lider svårt av världens behov av mobil teknik och batterier. Bara att komma i kontakt med kobolt under långa perioder kan vara cancerframkallande och påverka hjärta och lungor.

Jag vill också vara tydlig: Om du till exempel arbetar med att bygga appar, så är du beroende av kobolt för att dessa ska fungera. För att – med en app – uträtta dina bankärenden, deklarera och betala parkering behöver du använda en pryl som med stor sannolikhet innehåller kobolt eller andra så kallade konfliktmineraler från Kongo-Kinshasa.

Vi bär alla en del av ansvaret.

I väntan på att teknikföretagen ställer tydligare krav och följer upp med sina leverantörer, och att såväl lokala som internationella regelverk bidrar till bättre skydd, kan du som individ redan nu:

• Använda prylarna längre innan du byter ut dem

• Lämna in teknisk utrustning för återvinning och återanvändning

• Hjälpa till att skapa medvetenhet om de som far illa

• Ställa dig bakom kravet på ett större och mer kraftfullt ansvarstagande hos världens rikaste teknikföretag

Välfärd kostar. Men när du själv primärt gynnas och slipper vara den person som betalar den högsta kostnaden, är det alltför lätt att glömma att stå upp för de människor som betalar mest.

Per Axbom är född i Liberia, uppvuxen i Tanzania och författare till handboken Digital omtanke.

Snabba fakta

Mer än 60% av världens kobolt kommer från Demokratiska Republiken Kongo, som i Sverige ofta kallas Kongo-Kinshasa.
Det uppskattas att ungefär 35,000 barn arbetar i gruvor i DR Kongo för att extrahera kobolt
Ungefär 20% av kobolt i DR Kongo kommer från småskaliga, oreglerade gruvor där barn arbetar
Ungefär 60% av vikten av ditt telefonbatteri är kobolt.
Beroende av energidensitet, så står kobolt för 6-12% av vikten av batteriet i en elbil

Länklista

Stämningsansökan
The Congo Connection between Slavery and Conflict Minerals – The Enough Project
Congo’s Conflict Minerals: US Companies Struggle To Trace Tantalum, Tungsten, Tin, Gold In Their Products
Congo Violence, Lundin Mining and the Global Cobalt Supply
Slavery in Your Pocket: The Congo Connection on Vimeo
In DR Congo, UNICEF supports efforts to help child labourers return to school | Congo, Democratic Republic of the  | UNICEF
Is your phone tainted by the misery of 35,000 children in Congo’s mines? | Siddharth Kara | Global development | The Guardian
Several automakers and battery makers accused of using cobalt sourced by child labor in Congo – Electrek
Cobalt mining in the DRC: the dark side of a clean future
Blood Batteries – Cobalt And The Congo


Diagram över var råmaterialet till en smartphone kommer från

Barnarbetarna i DR Kongo som gräver kobolt till våra batterier

Den 30 december 2019 publicerade DN min insändare om den blodiga historien bakom batterierna i våra tekniska prylar. Under DN Åsikt rubriksattes den som “Byt inte ut elektronisk utrustning i onödan”.

Jag vill med min insändare belysa systemiska orättvisor, kanske speciellt när människor som behandlats illa i århundraden fortsätter att bli exploaterade. Det är komplext, och det finns inga enkla lösningar även om min text kan ge ett litet sken av det. Men människor far illa, slavliknande förhållanden råder på många platser, och för att närma oss lösningar måste vi prata om det. En av de som besökt Kongo-Kinshasas gruvor flera gånger är författaren och forskaren Siddharth Kara. Läs gärna mer av honom om du vill gå djupare.

Läs gärna fler artiklar om situationen i Demokratiska Republiken Kongo via min länklista nedan.

Så här börjar min insändare:

Frédéric var nio år när han slutade skolan och började arbeta i koboltgruvorna i Kongo-Kinshasa. Hans familj hade inte råd med skolavgiften på 50 kronor per månad. År 2016, när han var femton år, arbetade han som transportör och bar 30-kilossäckar med koboltrika stenar nerför ett brant berg.

Läs hela texten på DN Åsikt.

Snabba fakta

Mer än 60% av världens kobolt kommer från Demokratiska Republiken Kongo, som i Sverige ofta kallas Kongo-Kinshasa.
Det uppskattas att ungefär 35,000 barn arbetar i gruvor i DR Kongo för att extrahera kobolt
Ungefär 20% av kobolt i DR Kongo kommer från småskaliga, oreglerade gruvor där barn arbetar
Ungefär 60% av vikten av ditt telefonbatteri är kobolt.
Beroende av energidensitet, så står kobolt för 6-12% av vikten av batteriet i en elbil

Länklista

Stämningsansökan
The Congo Connection between Slavery and Conflict Minerals – The Enough Project
Congo’s Conflict Minerals: US Companies Struggle To Trace Tantalum, Tungsten, Tin, Gold In Their Products
Congo Violence, Lundin Mining and the Global Cobalt Supply
Slavery in Your Pocket: The Congo Connection on Vimeo
In DR Congo, UNICEF supports efforts to help child labourers return to school | Congo, Democratic Republic of the  | UNICEF
Is your phone tainted by the misery of 35,000 children in Congo’s mines? | Siddharth Kara | Global development | The Guardian
Several automakers and battery makers accused of using cobalt sourced by child labor in Congo – Electrek
Cobalt mining in the DRC: the dark side of a clean future
Blood Batteries – Cobalt And The Congo


Diagram över var råmaterialet till en smartphone kommer från

Subscribing to newsletters the mindful way

There are some really good newsletters out there. But newsletters also have a way of cluttering your inbox, or grabbing your attention at the wrong time. And having it slide ever lower down your inbox can make you forget about content you actually wanted to read. The problem isn’t e-mail, which can be a fantastic delivery mechanism for news. The real challenge is lack of control for busy people, and otherwise overflowing inboxes. I’m here to tell you there are ways to collect all your newsletters in one place, for easy access but without the obstructive delivery.

Let me walk you through three different solutions. The common denominator for all these tools are that they give you a unique personal e-mail address that you use when subscribing to newsletters.

Stoop – a dedicated app for both iOS and Android. It has newsletter recommendations. Also lets you forward e-mail to your unique address for later reading within the Stoop app. Basic version is free and premium features cost $10/year.
Newslettrs.app – a web-based service that collects your newsletters in one place, with apps for both iOS and Android coming soon. There are collections of newsletter recommendations to get you started but you also just use you unique e-mail for any newsletters you wish to regularly read. Currently (December 2019) you need an invite code to sign up. Free right now, no information on future pricing.
Feedbin – For power-users this is an RSS-reader that also offers a unique e-mail. This means you can read your newsletters alongside all the RSS feeds you subscribe to, in your browser or in an app. It will even let you add Twitter lists, users and searches as their own feeds. Free trial and then $5/month.

More on each of these services below.

Stoop

Like a podcast app – but for newsletters

With a focus on making content appealing to consume, Stoop helps you discover and read in one place. Among its features are what it calls “iron-clad” unsubscription and e-mail forwarding to Stoop for stuff you want to read later (with approval of what addresses can forward). Unique feature: you can also subscribe to YouTube video channels.

Limits: In the free version Stoop will keep up to 10 issues of each newsletter in its inbox, and anything older than that will be archived. Each issue will sit in the archive for 60 days before being deleted. If you want to keep an unlimited number of issues in the inbox and archives you need to become a premium member through an in-app purchase of $10/year.

Web address: stoopinbox.com

Pro tip: If you install Stoop, spend some time reading the welcome e-mail in the inbox. It will tell you everything you need to know to make good use of the app.

Newslettrs

Subscribe and read newsletters from around the Internet in one place.

If you prefer just reading your content through a browser, and don’t want to always be tied to an app, this is the simplest tool of the bunch. Apps are said to be coming as well, to complement the web interface. While Newslettrs gives suggestions of what to read, the real power is in putting all the newsletters you already love in one place. Fair warning in that this service is just launching. While it’s free now the future business model is unclear. Unique feature: completely free (for now).

Web address: newslettrs.app

Feedbin

Follow your passions with RSS, Twitter, and email newsletters

Full disclosure, this is the tool I use to collect all my news in one place, including news sites, blogs, newsletters and a few Twitter lists and searches. You can put all the different feeds in one or more categories as you wish. Read by categories or each source as you wish. This added power comes with a price: five dollars per month. If you have a lot of sources you want to find in one place it has proven invaluable for me, but I acknowledge that not everyone craves the massive news consumption from different sources that Feedbin supports. Unique feature: Full-fledged RSS-reader and Twitter feed reader

Good to know: Feedbin doesn’t let you archive or delete in the way that Stoop does. All feeds are visible and saved as long as they are active. This is not a big issue for me but sometimes it bothers me that I can’t archive confirmation e-mails.

Web address: feedbin.com

To think about

There is an added benefit of separating your newsletters from your everyday inbox. With your personal e-mail address on the loose out there, there is loads of potential for misuse and tracking you as an individual. A unique, separate e-mail address actually keeps you more safe and private.

Once you’ve chosen your platform there are things to keep in mind:

You need to unsubscribe and re-subscribe to your favorite newsletters, using your new newsletter dedicated e-mail address. I’ve done this as newsletters arrive. Some newsletters will actually allow you to just change your e-mail address (Mailchimp-based ones may have a link called “edit your preferences”)
If newsletters have double opt-in (which they all should) then remember there will be an e-mail asking you to confirm your subscription. This confirmation e-mail will also end up in the newsletter service. Remember to go there and confirm the subscription before the confirmation link expires.
Schedule a timeslot each day or each week to read your chosen newsletters. There is a reason you chose to subscribe and that is likely that their content inspires you, challenges you or teaches you. If you find that you are spending more energy on the newsletter than it’s giving you, then remember to unsubscribe.

I hope you find a tool that works for you. And now if you’re feeling brave, you may even want to give my newsletter, Pandamonium, a fighting chance.

Just never forget: content should work for you – not the other way around.

Tech addiction

Ever more often I see people arguing about whether or not tech addiction is a real problem. On one side of the aisle, tech addiction is just alarmism or a disinformation campaign. At the other end, the media loves pushing big headlines on how our devices have us hooked to various online services. I believe it would be helpful to take a step back and ask ourselves what we are really talking about when this topic comes up: human beings experiencing distress.

Getting real about the word addiction — a word that itself carries many  different connotations for different people — it’s really about adverse effects of a specific behavior, and understanding the severity of those effects.

Arguments are near futile when we aren’t in agreement about the words we are talking about. To talk about tech addiction we really need to understand what it is that has people worried and upset.

Psychology Today defines addiction like this:

A person with an addiction uses a substance, or engages in a behavior, for which the rewarding effects provide a compelling incentive to repeat the activity, despite detrimental consequences. Addiction may involve the use of substances such as alcohol, inhalants, opioids, cocaine, and nicotine, or behaviors such as gambling.

Addiction is often linked to substance misuse. This makes the word even more loaded, as some of these behaviors are not only harmful to well-being and directly injurious to physical health, but also illegal. For some people this conjures images of outcasts with dirty syringes or spoons. Of course, we also know that respectable community members with seemingly well-adjusted lives can be addicted to substance abuse, both illegal ones and legal ones such as alcohol and tobacco.

The main reason some substances are illegal are because their addictive properties, which vary from drug to drug, can cause significant negative impact to an individual and to society. That is to say, it is deemed more likely for more people to become addicted to certain drugs than others.

Gaming disorder and proportions

In June of 2018 the World Health Organization added Gaming disorder to 11th Revision of the International Classification of Diseases (ICD-11). As WHO describes it:

A decision on inclusion of gaming disorder in ICD-11 is based on reviews of available evidence and reflects a consensus of experts from different disciplines and geographical regions that were involved in the process of technical consultations undertaken by WHO in the process of ICD-11 development.

Essentially, the occurrence of people who are addicted to gaming is considered significant enough for the disorder to be included as an official disease, but WHO also points out that this “affects only a small proportion of people who engage in digital- or video-gaming activities”.

What we need to understand is that addiction that affects only a small proportion of those engaging in the activity, is still addiction. Small proportions are to be expected. And there is no certain way to predict who will be affected, as any combination of biological, psychological and environmental factors can contribute.

The symptoms and nuances of addiction

Arguing over whether or not tech addiction is a thing unfortunately misses the point. The phrase “tech addiction” implies that it is a general problem that affects the population as a a whole, but addiction rarely is something that hits the majority. It almost always affects only a small number of people in the larger population. The thing is,  even when it affects only a small number of people it can be a huge cost for those individuals, and – when enough people are affected – also impact society as a whole. This is the nature of addictions.

As so often in polarized arguments: both things are true at the same time. I can agree that there is no tech addiction in the sense that everyone who uses specific tech becomes addicted to it. But it’s also true that there are a small proportion of people who do become addicted. Gaming is tech. Gaming disorder is real. People who build digital sites, apps and platforms take pride in employing what is know as gamification techniques to get people hooked to all types of tools.

What we should be focusing on is helping people understand if their behavior and relationships with tech devices and services has a tendency towards addiction. If the word offends, we don’t even have to call it addiction to identify effects that, if allowed to continue for long periods of time, can have a negative impact on our well-being. We can focus on the effects and characteristic traits of addictive behavior.

Psychology Today lists eleven symptoms that can help determine addiction. A clinical diagnosis of an addiction is based on the presence of at least two of these symptoms. Before you jump to conclusions, please note that a diagnosis is based on this, it does not follow that you are necessarily addicted because you self-diagnose yourself as a subject of several symptoms. A clinician has the final word. Having said that, your personal evaluation of these symptoms can of course begin to create some self-awareness  about your relationship to digital services:

The substance or activity is used in larger amounts or for a longer period of time than was intended.
There is a desire to cut down on use, or unsuccessful efforts to do so.
Pursuit of the substance or activity, or recovery from its use, consumes a significant amount of time.
There is a craving or strong desire to use the substance or engage in the activity.
Use of the substance or activity disrupts obligations at work, school, or home.
Use of the substance or activity continues despite the social or interpersonal problems it causes.
Participation in important social, work, or recreational activities drops or stops.
Use occurs in situations where it is physically risky.
Use continues despite knowing it is causing or exacerbating physical or psychological problems.
Tolerance occurs, indicated either by need for markedly increased amounts of the substance to achieve the desired effect or markedly diminished effect of the same amount of substance.
Withdrawal occurs, manifest either in the presence of physiological withdrawal symptoms or the taking of a related substance to block them.

A greater number of confirmed symptoms implies a more severe addiction. I’d also factor in that some people can exhibit symptoms over shorter periods of time, and it would follow that the longer these symptoms persist the more severe an addiction is.

An addiction can be considered mild, moderate or severe, but this nuance is often missing from debates. Just the word addiction seems for many people always to be implying the more severe forms. But a mild addiction is of course also an addiction. And a mild addiction can get worse, or it can get better. Our ability to take even a mild addiction seriously will be an indicator of our focus on human well-being.

A minority can be a big deal

As you see, just using the word addiction in debates fails to nuance the problem space. We would sometimes be better off avoiding the word addiction and instead bringing the consideration of severity into the conversation. We could talk about human costs, vulnerability and power of voice.

Tech use, and social media use, has exploded across the world. We’d all do well to be curious about the effects of that. Let’s talk about who is better off and who is worse off. Even if only a small proportion of people are addicted to tech, that’s likely a huge number of people. Who are they and how do we help them? Is there regulation that could help us minimise costs to well-being and costs to society?

Let’s acknowledge that a lot of people, likely most people, are managing alright with tech advancements. Without a doubt, many tech innovations increase accessibility to content, knowledge and conversations for a great many people. But let’s also stop dismissing worries about tech addiction as merely alarmism.  Because here’s the thing: people’s voices matter even when they are not part of the majority. People’s well-being matter even when they are a small percent of the people you affect.

We can always do better at listening to those who take the hardest hits. Whether addiction is mild, moderate or severe, and whether it affects a small or large proportion of people – working with the intent to promote all human well-being is always time well spent.

Digital Compassion: A Human Act

The date was September 26, 1983. I was nine years old. Stanislav Petrov was 44 years old. Around my age today. He was working his second straight shift in the control room of the Soviet nuclear early-warning system Oko. Suddenly came what was the greatest fear of the cold war, an alert signalling a nuclear attack from the United States. The system announced that five missiles were headed towards the Soviet Union.

It was now Petrov’s job to forward this information to allow the Soviet Union to commence their counterattack. But Petrov never did. He himself decided to report this alert as a false alarm instead of letting former KGB-leader Yuri Andropov determine the world’s fate. In interviews, Petrov pointed out that he thought it was unlikely to be a nuclear attack with only five missiles. There should have been more. In 2013, he pointed out that his civilian education was crucial. His military colleagues would surely have reported an act of war.

Many experts have acknowledged that a good part of the world’s population has Petrov to thank for their lives. The significance of his act was of course that he as a human dared question the computerized system. A computer system that, in this case, had misinterpreted an unusual weather phenomenon.

Love of Reading

When these events unfolded I was nine years old and attending an American school in Saudi Arabia. I loved books. Which is why I also loved learning about the Dewey Decimal System, the most common taxonomy used in libraries around the world to categorize books in subject areas. In large chests with small drawers I found small cards with categories that helped me find new, exciting books. The categories encompass the digits 1 to 1000, frequently with decimal places to include specialist areas. Hence decimal system.

This means that all the world’s subject areas are divided up into ten main groups. Everything from computer science to geography and history.

For example, books concerning religion are placed within the numbers 200-299. In an overtly unbalanced configuration, however, Christianity is assigned categories 200-289, while the rest of the world’s religions coexist in the remaining ten main categories: 290-299.

When I was nine years old , the subject of homosexuality was in category 301,424, studies of gender in society. In 1989, it was also placed in 363.49, social problems. But many books of course for a long timed also retained their former categories from 1932 when homosexuality was placed in categories 132, mental disorders, and 159.9, abnormal psychology .

Changing values

Books that dealt with homosexuality were, to say the least, controversial in 1932. In Nazi Germany, starting in 1933, book-burning commenced of all books that in some way had content of a homosexual nature. Homosexuals in the secret state police, the Gestapo, were murdered. And between 1933 and 1945 homosexuals around the country were imprisoned. Of those who then also ended up in concentration camps, scientists estimate that 60% were executed. Many were also victims of medical experiments in which cures for homosexuality was sought.

Something that haunted historians for many years was how the Third Reich so effectively was able to map, find, terrorize and execute homosexuals, Jews, Roma, people with disabilities and people who were ended up in the category ‘anti-social’.

Today we know that the answer to that question is automation.

The man on the left in this picture is Adolf Hitler, the man who came to power in connection with the book burning. The man sitting on Hitler’s left side is Thomas J. Watson, leader of IBM during the years 1914 to 1956.

Automation of terror

Transporting more than six million people from their homes to ghettos and then from the ghettos to concentration camps and gas chambers is an unfathomable horror, and startling as a logistical feasibility.

Beginning already in 1933, IBM’s exclusive punch card technology was used to categorize and streamline Hitler’s plan: Final Solution to the Jewish Question. After the release of archived documents in 2012, we know that the punch cards, machines, training and servicing were all  controlled from IBM’s headquarters in New York and later through subsidiaries in Germany.

This is a picture of one of the many machines that were built and deployed for the purpose. They were used to manage food rationing for the purpose of starving prisoners, for the timetables of the many trains, but also for the categorization of people.

The 2012 documents revealed some of the codes of the concentration camps and numbers used to codify people. Number 3 for Homosexual, 8 for Jew, 9 for Anti-social, and number 12 for ‘gypsies’. There were also codes that categorized how people died, or as was more often the case: executed. Special treatment was the euphemism for gas chamber.

Thomas J. Watson is, in many people’s eyes, an admirable businessman who contributed to building IBM into a wealthy and profitable global company and world leader in tech. He was one of the richest men of the time and was called the world’s best salesman. Many listen to his advice. Knowing now what his company actively and knowingly contributed to, many of his statements today come off as repugnant:

“Doing business is a game, the greatest game in the world if you know how to play it.”

It is also telling that when details about IBM’s role during the Holocaust have leaked out the company’s defense, even in recent years, has built very much on the premise :

“We are just a technology company.”

Even more strikingly tone-deaf in light of corporate history and responsibility, IBM’s renowned artificial intelligence platform today bears his name and their 2019 campaign proudly proclaims that you now can have “Watson anywhere“. It’s designed to “help companies uncover previously unobtainable insights from their data”.

Classification of people

Categorization, labelling and grading of people and information is a tool we naturally use to manage the impossible complexity of the environments and contexts we as humans are trying to understand. It is extremely effective, but also contributes to some of the deepest problems we are facing.

As late as 2016, there have been studies performed to show how criminals can be identified merely with the aid of facial proportions. This is a form of phrenology – determining behavior based on head shape – I’m sure many assumed that the research community had abandoned. And now just last Sunday, on the 24th of November 2019, we learned how China is operating citizen arrests based on algorithms, thanks to the so-called China Cables leak. In June 2017, more than 24,000 names were flagged as “suspect” by an algoritm, and in one week Xinjiang security personnel found 15,683 of these people and placed them in detention camps.

Earlier in May of this year we learned from experiments with facial recognition in England, attempting to track criminals, how the system for face recognition was wrong in 96% of cases. And, of course, facial recognition is most often wrong when it comes to non-white people. The Independent article describes the case of a 14-year old schoolboy who had to submit fingerprints due to one of the many misidentifications.

But we don’t always have to go as far as automation and AI to find examples of people experiencing harm. Now that we are digitizing all types of school systems and relying on them for communication and reporting, issues like this appear:

“My transgender student’s legal name is showing on our online discussion board. How can I keep him from being outed to his classmates?”

Of course, most digital school platforms do not allow neither student nor teacher to change their name. Many digital systems, often also public ones, fail at the most basic levels of protecting privacy and integrity.

Homosexuality is still illegal in 70 countries. Sentencing can often lead to several years in prison. In a handful of countries, the death penalty is used.

That’s one reason to be concerned when dating apps display distance to other online users. Something that many surely forget to turn off when traveling. But at least they only display distance, you may be thinking. They do not show direction .

Indeed, the only thing required to pinpoint an almost exact location of a person is manual triangulation. Stand in three different places and make a circle around each place with the given distance as the radius. Where these three circles intersect is the where you will find the anonymous individual.

This triangulation can be done by a person who stands in three different places, or of course even faster by three people carrying baseball bats who are working together .

Apps designed to improve people’s lives are exposing their own target groups to danger. And the people at risk have often not been informed about these risks in a satisfactory way. There are now for example reports coming out on police in Egypt using dating apps to entrap suspected homosexual men.

The processes do not make a stand

When we hear about technology where people are harmed, the stories often have something in common. It is those with a disregarded voice and whose who are discriminated – people who already served badly by society – who are  the most vulnerable. People who are already favored by society often have a good relationship with technology and can see and appreciate how it improves their everyday life and well-being.

What has become clear in my research on ethics and design, when trying to understand why people are harmed again and again, is that methods and processes keep revealing themselves as a contributing factor. Nothing in our processes is systematically taking into account and mitigating negative impact on human beings.

In recent years, concepts such as agile and lean have become commonplace for organizations and companies. Incremental and iterative development methods are all over the workplace. These methods contribute to value-creation through frequent feedback loops involving the buyers of products and services. This increases the probability of making something they are happy with.

In a frequently used illustration of an agile process, created by the swede Henrik Kniberg, the first item built is a skateboard. This is shown and tested with target groups, and in the next iteration (development cycle) becomes a scooter, or kickbike. The circular feedback then  leads to the development of a bicycle, a motorcycle and a finally a car. But the point is that you did not beforehand understand that you were building a car. The iterative process brought you there.

The right way is not always the right thing

I am a believer in the usefulness of agile methodologies as a more resource-efficient way of working out and solving the problems of a target group. But they do not prevent solutions that also contribute to congestion, accidents, pollution, exhaust fumes or other ways of endangering people.

Because even if we keep getting better at building things the right way, and can reach further and affect more people, we have yet to adopt the methods that allow us to build the right thing — which involves actively working towards minimising negative impact.

To exemplify I often show this famous Australian image that illustrates how much road space is taken up by 69 people in a bus, on bicycles and finally: in cars. The cars, despite there not being one car per person, by far require the most space. The most innovative companies are praised when they respond with the launch of electric cars and autonomous cars. These vehicles, of course, take up exactly the same amount of road space as fossil-fueled cars. Worryingly there is also no indication that they lower the number of cars on the road. Money controls the direction of innovation, and impact on well-being is rarely gauged as a success factor .

To emphasize my point about who is harmed, and while we’re on the topic of transportation, last Wednesday I took these two pictures in Stockholm. While it may seem that one of these scooters, the one lying down, is a greater obstacle than the other, parked on the sidewalk, this interpretation is one based in privilege.

The truth is of course that both these scooters represent an equally troublesome obstacle for people who are visually impaired, or use a wheelchair. People with these temporary or permanent disabilities need to find a safe way to navigate around the scooter to continue their journey.

When you move around a big city with this realization it becomes devastatingly obvious how the onslaught of electric scooters are creating an everyday randomized, and often dangerous, obstacle course for vulnerable people who have previously found comfort in using the same mostly obstacle-free and safe path for decades.

Invisible people

The most dangerous thing about hostile design is when it starts to become invisible for the majority of people. Hostile design is then when someone builds products and services that actively excludes and impairs well-being for specific people.

For example, hostile architecture is something that many can discover in their everyday lives. This is when we see spikes on the ledges that could otherwise be used for seating, or more subtly, armrests in the middle of benches so they are not suitable for lying down on. Eventually, this design also becomes completely invisible — by normalization, or by design.

In this example, a solar charger for mobile devices has been installed on a park bench. The solar charger is mounted in the middle of the bench and the component rises well above the seating area. Again, we have the design of a bench impossible to lie down on if you have that temporary need.

Some people are completely excluded, in an invisible way, and thus erased from our consciousness. They themselves already have too weak of a voice to be heard in protest. And because the hostility is not at all apparent – and the majority actually benefit from the solution – there are ever fewer people who protest on their behalf.

In our everyday life this plays out with people who did not get invited to parties when they don’t have the right social media account, people who struggle to apply for jobs in digital platforms, people who can not pay for parking or parents who have difficulty retrieving important information about their children from complicated school platforms. Often these same people had no trouble with the same tasks in their pre-digital versions.

For many their whole community has become akin to visiting someone else’s home and attempting to understand how the television and stovetop works.

Best case they have a relative who can help them.

Design discriminates

To my personal disappointment I learned a few years ago how even the design methodology I worked with for many years is, in essence, discriminatory.

In what is popularly called the “double diamond”, the process diagram illustrates how we put effort into understanding a problem and the related human needs broadly. But as time moves on we need to decide what needs are prioritized.

And that’s when we methodologically choose to focus on the needs that most people have. What many people have in common. Those are the clearest patterns.

The result is that people in the outskirts of the research, and in the outskirts of what that can be described as general needs, quite simply are not allowed any consideration in the design solution. There is even a term in the industry for this: edge-case. If you are an edge-case you are not a person whose need is a priority.

If we built with people’s well-being in focus from the start, accessibility for people with disabilities would never be something that came into consideration later in a project, as an add-on. An edge-case would be assessed on the basis of the harm we incur a human being, not based on how rare the event is.

But today most designs prioritize the needs of those already favored by society – who fit in and are normalized – and who benefit doubly because precisely their needs end up in the spotlight.

Measurement increases visibility

In order to be able to work ethically, in the sense that we avoid building that which causes harm, human well-being must be a part of decision-making. We must put effort into documenting, measuring and imagining how people suffer harm.

This information is then used for:

expressing clear motives in decision-making
making visible the people who are otherwise not seen or heard
prioritizing choices in technological development
understanding when you should walk back a decision after understanding consequences
creating traceability (documentation) for ethical choices and considerations

(See Tim Berners – Lee and ContractForTheWeb.Org )

We will never be able to predict everything. But when our methods do not even encourage us to talk about them, negative impact is almost guaranteed. We can always improve our understanding of who is harmed the most and what impact we ourselves wish to contribute to.

Here are two methods :

Impact mapping

Impact mapping is a form of risk analysis concerned with anyone who is affected and what happens to them. Each impact (what happen to who) is then estimated according to four factors :

How severe is this impact?

Are we talking embarrassment or life and death?
How much do we contribute?

That is to say, if we had not done anything, would this impact exist? The more we contribute, the more it is our responsibility to minimize the negative impact.
How neglected/vulnerable are those affected?

If those affected already have a weak voice in society it’s ever more important to help them strengthen their voices.
How likely is it this to happen?

The higher the probability of the “what” happening, in combination with other factors, the more important it is to take action.

Every assessment is done in a group setting and these factors are estimated and updated as we learn more over time. Best-case, of-course, people with first-hand experience of similar effects are brought in to contribute.

Impact mapping can be a powerful tool as it can be used for both positive and negative effects. Its strength as a tool is that it can help a product development team prioritize not only based on financial outcomes and conversion, but also on the basis of who is harmed and how much.

Use the method to help your organization understand impact, and prioritize activities .

The Inclusive Panda

The panda is a gateway for an organization to more easily understand all the people who can be affected by a digital solution.

The circle in the middle, the muzzle (or snout), encompasses all those who we have in mind as our target audience, those we consciously and actively build for.

The ear to the left represents the excluded people. This may be people who would benefit from the solution but no energy is put into building in a way that accomodates their access needs. This could also be people who are not at all favored by the solution but rather directly disadvantaged by it, as in the case of the electric scooters.

The ear to the right represents the unwanted. We do not want these people to use the solution, either because they can harm themselves or because they can damage others. The simplest example is that some solutions for adults should exclude children. And some solutions for children should exclude adults.

The ears overlap with the head to illustrate that there are likely people in both the exluded and unwanted groups who manage to start using all our parts of a solution anyway.

Which allows us to finish on the nose, the segment of those people we build for who are harmed despite our efforts. Either they are harmed by the behavior of unwanted users or you fail to understand their needs and vulnerabilities. Dating apps showing distances to the nearest online users is a good example.

When you regularly map participants and non-participants using The Inclusive Panda you begin to understand the effects on many more people beyond your expected audience. You gain important insights about how your product or service is bigger  than the people you are directing your efforts at.

A human act

When Stanislav Petrov was awarded the international peace prize Dresdner-Preis in 2013, for his actions in preventing a third world war, the jury expressed the following sentiment:

“It turned out right, because he acted not as technician, not as an officer, but as a human being.”

Stanislav Petrov passed away invisibly in May of 2017 but for anyone wishing to keep acting as a human being, you can follow his lead:

Dare to object when technology assumes the role of decision-maker
Dare to question the historical data, and classifications, that our information systems and libraries keep alive
Understand that everything that can be built should not be built, no matter how profitable it is
Avoid classification of people, but do talk about capabilities and (in)visibility
Make visible when people are harmed
Stand up for making human well-being a central part of any technological development, and one that is measured alongside profitability

This is also why I would like to finish on a hopeful quote from young girl who wrote the following in her diary when she was 14 years old, as a strong reminder to us all:

“How wonderful it is that nobody need wait a single moment before starting to improve the world.”

– Anne Frank

 

This article is also available in Swedish: Digital omtanke: en mänsklig handling.

Thank you for sharing this post with your friends and colleagues. This article wants to travel.

Further reading

Stanislav Petrov – Wikipedia
‘How I stopped nuclear war’ (BBC)
Stanislav Petrov saved more lives than just about any human who ever lived – Vox
Stanislav Petrov, ‘The Man Who Saved The World,’ Dies At 77
Dewey Decimal Classification – Wikipedia
IBM & “Death’s Calculator”
IBM’s Role in the Holocaust – What the new documents reveal
IBM And Nazi Germany – CBS News
Neural Network Learns to Identify Criminals by Their Faces – MIT Technology Review
Exposed: China’s Operating Manuals For Mass Internment And Arrest By Algorithm
Facial recognition wrongly identifies public as potential criminals 96% of time, figures reveal | The Independent
Trans-inclusive Design – A List Apart
Gay dating apps still leaking location data – BBC News
Dating apps are refuges for Egypt’s LGBTQ community, but they can also be a trap – The Verge
The Canberra Transport Photo
Homepage – Contract for the Web
Introducing the Inclusive Panda • axbom.blog
AI ethics is all about power

Thanks

Thanks to Rumman Chowdhury who reminded me of Stanislav Petrov in this brilliant piece: The pitfalls of a “retrofit human” in AI systems.
Thanks to Aral Balkan who made me aware of IBM’s role in the holocaust and sent me down that terrifying rabbit hole.
Thanks to Alastair Somerville who first pointed out the obvious faults in the double diamond, elaborated on in his article: How do we design for divergence and diversity if convergence is the goal? 
Thanks to my oldest son who started reading The Diary of a Young Girl. The constant presence of the book in our living room had me keeping Anne Frank top of mind as I was working on the presentation.
And thanks for all the fantastic feedback on the Swedish presentation and post. This encouraged me to translate it all to English.

Digital omtanke: en mänsklig handling

Det var den 26 september 1983. Jag var nio år gammal. Stanislav Petrov var 44 år. Ungefär som jag är idag. Han var inne på sitt andra raka arbetspass i kontrollrummet för det sovjetiska varningssystemet Oko. Plötsligt kom det som var kalla krigets värsta farhåga, larmet om en kärnvapenattack från USA. Systemet meddelade att fem missiler var på väg mot Sovjet.

Petrovs jobb gick nu ut på att föra vidare informationen så att Sovjetunionen kunde påbörja en motattack. Men Petrov gjorde aldrig det. Han bestämde sig för att rapportera falsklarm, i stället för att låta före detta KGB-chefen Yuri Andropov avgöra världens öde. I intervjuer har Petrov påpekat att han tyckte det var osannolikt att det var en kärnvapenattack med bara fem missiler. Det borde varit fler. År 2013 påpekade han att hans civila utbildning var avgörande. Att hans militära kollegor garanterat skulle ha rapporterat en attack.

Många experter har fört fram sannolikheten att större delen av världens befolkning har Petrov att tacka för sina liv. Det avgörande i hans handling var förstås att han som människa vågade ifrågasätta datasystemet. Ett datasystem som hade feltolkat ett ovanligt väderfenomen.

Läslust

När det här utspelade sig var jag nio år och gick på en amerikansk skola i Saudiarabien. Jag älskade böcker. Därför älskade jag också att få lära mig om Dewey Decimal System, det klassificeringssystem som är vanligast på bibliotek runtom i världen för att kategorisera böcker i ämnesområden. I stora byråer med små lådor fanns små kort med kategorier som hjälpte mig att hitta nya, spännande böcker. Kategorierna sträcker sig från siffrorna 1 till 1000 och innehåller ofta decimaler för att täcka in specialområden. Därav “decimal system”.

Det här innebär också att alla världens ämnesområden delas in i tio huvudgrupper. Allt ifrån datavetenskap till geografi och historia.

Ämnet religion har siffrorna 200-299. Aningen obalanserat är det att kristendomen tilldelats huvudkategorierna 200-289 medan resten av världens religioner får samsas i de resterande 10.

När jag var nio år så låg ämnesområdet homosexualitet i kategorin 301.424, studier av kön i samhället. År 1989 placerades det även i 363.49, sociala problem. Men många böcker behåller förstås också sina tidigare kategorier från 1932 då homosexualitet placerades i 132, mentala störningar, och 159.9, abnorm psykologi.

Föränderliga värderingar

Böcker som hanterade homosexualitet var minst sagt kontroversiella år 1932. I Nazityskland började man 1933 bränna böcker som på något sätt innehöll texter om homosexualitet. Homosexuella inom den hemliga statspolisen Gestapo mördades, och mellan 1933 och 1945 fängslades homosexuella runtom i landet. Av de som sedan också hamnade i koncentrationsläger räknar forskare med att cirka 60% avrättades. Många blev offer för medicinska experiment där man sökte botemedel för homosexualiteten.

Något som under många år gäckade historiker var hur effektivt Tyskland kunde kartlägga, hitta, terrorisera och avrätta homosexuella, och förstås judar, romer och de människor som helt enkelt kategoriserades som anti-sociala.

Idag vet vi att svaret på den frågan är automatisering.

Mannen till vänster i bild är Adolf Hitler, mannen som kom till makten i samband med bokbränningen. Mannen som sitter till vänster om Hitler är Thomas Watson, som ledde företaget IBM under åren 1914 till 1956.

Automatisering av terror

Att transportera mer än fyra miljoner människor först från sina hem till ghetton och sedan från ghetton till koncentrationsläger och gaskammare var obeskrivligt fasansfullt, och uppseendeväckande att rent logistiskt genomföra.

Med start redan 1933 så användes IBMs exklusiva hålkortsteknik, samt dess monopol på informationsteknik, för att kategorisera och effektivisera Hitlers plan som fick namnet Den slutgiltiga lösningen av judefrågan. Efter släppta dokument under 2012 vet vi att hålkorten, maskiner, utbildning och service styrdes från IBMs huvudkontor i New York och senare genom dotterbolag i Tyskland.

Det här är en bild på en av de många maskiner som var byggd och utplacerad för ändamålet. De användes för att hantera matransonering för att svälta fångarna, och för att tågen skulle gå i tid, men också för kategorisering av människor.

År 2012 släpptes dokument som avslöjade hur några av koderna för koncentrationsläger och människor såg ut. Det var siffra 3 för homosexuell, 8 för jude, 9 för anti-social, och siffra 12 för zigenare. Det fanns även koder för att kategorisera hur människor dog. Specialbehandling var omskrivningen för gaskammare.

Thomas Watson är i mångas ögon en beundransvärd affärsman som bidrog till att bygga upp IBM till ett oerhört lönsamt världsomspännande företag. Han var en av tidens rikaste män och kallades världens bästa säljare. Många lyssnar till hans råd. Som det här kända citatet:

“Att göra affärer är ett spel, det bästa spelet i världen om du vet hur du spelar.”

Det är talande att när detaljer om IBMs roll under förintelsen läckt ut har företagets försvar, även i modern tid, byggt väldigt mycket på premissen:

“Vi är bara ett teknikföretag.”

Klassificering av människor

Kategorisering, etikettering och betygsättning av människor och information är ett verktyg vi naturligt använder för att hantera den omöjliga komplexiteten i de miljöer och sammanhang vi som människor försöker förstå. Det är oerhört effektivt, men bidrar också till några av de djupaste problem vi står inför.

Så sent som 2016 utfördes studier för att visa på hur kriminella kan identifieras enbart med hjälp av ansiktsproportioner. Det här är en form av frenologi – att avgöra beteendet baserat på huvudform – som många säkert antagit att forskningsvärlden övergett. Men bara i söndags fick vi veta att Kina driver arresteringar baserat på algoritmer, efter den så kallade China Cables-läckan. I juni 2017  flaggade mer än 24 000 namn som “misstänka” och på en vecka hittade Xinjiangs säkerhetspersonal 15,683 av dessa människor och placerade dem i interneringsläger.

Från ett försök med ansiktsigenkänning i England, där man vill hitta kända kriminella, nåddes vi i maj i år av rapporter kring hur system för ansiktsigenkänning har fel i 96 % av fallen. Och förstås oftast när det gäller människor som inte är vita. I artikeln hos Independent handlar det om en 14-årig skolpojke som fick lämna fingeravtryck efter en sådan felidentifiering.

Men vi behöver heller inte gå så långt som automatisering och AI för att hitta exempel på hur människor far illa. När vi nu systematiserar människor i databaser och till exempel skolsystem så dyker det upp frågeställningar av den här arten:

“Min elev, som är trans, visas med sitt riktiga namn i skolplattformen. Hur gör jag för att detta inte ska röjas för hans klasskompisar?”

En skolplattform tillåter förstås inte varken elev eller lärare att ändra namn. Många system, ofta även offentliga, klarar inte av att på den mest basala nivån skydda människors integritet.

Det är fortfarande olagligt att vara homosexuell i 70 länder. Ofta leder till fängelse i flera år. I en handfull är det förenat med dödsstraff.

Därför blir det otäckt när dejtingappar visar avstånd till andra användare som är online. Något som många säkert glömmer bort när de reser. Men de visar ju bara avstånd, tänker många. De visar inte riktning.

I slutändan behövs dock bara en manuell triangulering för att hitta en nästan exakt position med denna funktion. Ställ dig på tre olika platser och gör en cirkel som har detta angivna avstånd som radie. Där dessa tre cirklar möts är platsen som individen står på.

Den här trianguleringen kan göras av en person som ställer sig på tre olika ställen, eller förstås ännu snabbare av tre personer med järnrör som arbetar tillsammans.

Apparna som ska förbättra utsätter sin egen målgrupp för fara. Och människorna i riskzonen har ofta inte blivit informerade om riskerna på ett tillfredställande sätt. Bland annat har rapporter kommit om att polis i Egypten använt dejtingappar för att spana på och komma åt homosexuella.

Processerna tar inte ställning

När vi hör talas om teknik där människor far illa så har de ofta en sak gemensamt. Det är de röstsvaga och diskriminerade – alltså människor som redan tjänas dåligt av samhället – som är mest utsatta. Människor som redan gynnas av samhället har ofta en god relation till teknik och kan se och uppskatta hur den underlättar deras vardag.

Vad som blivit tydligt när jag arbetar med mina efterforskningar kring etik och design, och varför människor far illa om och om igen, så dyker hela tiden metoder och processer upp som en bidragande faktor. Det finns inget i våra processer som på ett systematiskt sätt tar hänsyn till negativ mänsklig påverkan.

De senaste åren har begrepp som agil och lean blivit vardagsmat för organisationer och företag. Överallt jobbar vi med Inkrementella och iterativa utvecklingsmetoder. Metoderna bidrar till att skapa värde genom täta avstämningar med de som köper produkter och tjänster, så att de med större sannolikhet får något de blir nöjda med.

I en ofta använd illustration av en agil process, skapad av svensken Henrik Kniberg, byggs först en skateboard. Denna visas och testas för att i nästa iteration bli en sparkcykel. Den cirkulära återkopplingen bidrar sedan till att produkten utvecklas till en cykel, en motorcykel och en bil. Men poängen är att du inte i förväg visste att det skulle bli en bil.

Rätt sätt är inte alltid rätt sak

Jag tror absolut på förmågan i agila metoder att på ett mer resurseffektivt sätt jobba sig framåt för att lösa problem hos målgruppen. Men det förhindrar inte lösningarna från att också bidra till trafikstockningar, olyckor, föroreningar, avgaser eller att på andra sätt utsätta människor för fara.

För även om vi hela tiden blir bättre på att bygga på *rätt sätt*, och kan nå fler och påverka fler, så har vi ännu inte anammat metoderna som hjälper oss att bygga *rätt sak* – att aktivt arbeta för det som minimerar negativ påverkan.

Som exempel brukar jag visa denna kända bild från Australien som illustrerar hur mycket vägyta som tas upp av 69 trafikanter i en buss, på cyklar och till slut: i bilar. Bilarna, trots att det alltså inte är en bil per person, tar i särklass mest yta. De mest innovativa företagen bejublas när de svarar med att lansera elbilar och autonoma bilar. Som givetvis tar exakt samma mängd vägyta som fossildrivna bilar. Det är ofta pengarna som styr innovations-riktningen, och påverkan på välbefinnande mäts inte som framgångsfaktor.

För att understryka min poäng om vem som far illa, och när vi ändå snuddar vid ämnet sparkcyklar, så tog jag i onsdags dessa två bilder på stan. Medan det kan tyckas att en av dessa sparkcyklar utgör ett större hinder än den andra så är det ofta en tolkning grundad i ett privilegium.

Sanningen är förstås att bägge sparkcyklar utgör ett enormt hinder för den som är synskadad, eller som sitter i rullstol, och måste hitta ett säkert sätt att navigera runt sparkcykeln för att ta sig vidare längs trottoaren.

När man rör sig på stan med den här insikten så blir det skrämmande uppenbart hur elsparkcyklar påverkar framkomligheten särskilt mycket för vissa människor. Nästan oavsett hur de står, begränsar de i mycket stor grad rörelsefriheten för människor som har såväl temporära som permanenta funktionsnedsättningar.

Osynliga människor

Det farligaste med fientlig design är när den börjar bli osynlig för majoriteten av människor. Fientlig design är alltså när någon bygger produkter och tjänster som aktivt exkluderar och försämrar för vissa människor.

Fientlig arkitektur (exkluderande design) är till exempel något som många kan upptäcka i sin vardag. Det är när vi ser hur man sätter spikar på kanter som skulle kunna sittas på, eller mer subtilt, armstöd i mitten av bänkar så att de inte går att ligga på. Men i förlängningen blir även denna design helt osynlig.

I detta exempel har man installerat en solladdare för mobila enheter på en parkbänk. Man har säkerställt att solladdaren sitter i mitten av bänken och sticker upp en bra bit. Återigen så blir det design av en bänk som man inte kan vila liggande på om man är människa som har det behovet.

Vissa människor blir alltså helt exkluderade, på ett osynligt sätt, och därmed raderade från vårt medvetna. De har redan själva en alltför svag röst för att protestera. Och eftersom det inte alls är uppenbart – och majoriteten faktiskt gynnas – finns nu allt färre kvar som kan protestera å deras vägnar.

I vår vardag utspelar sig det här med människor som inte blir bjudna på fester därför att de inte har konton i rätt sociala medier, människor som inte längre vet hur man söker jobb, människor som inte kan betala parkering eller föräldrar som har svårt att se all information om sina barn i krångliga skolplattformar.

För många människor blir hela samhället som att besöka någon annans hem och försöka förstå hur tv:n och spisen funkar…

I bästa fall har de en släkting som kan hjälpa dem.

Design diskriminerar

Till min personliga besvikelse upptäckte jag för ett par år sedan hur även den designmetodik jag jobbat med i många år i grund och botten är diskriminerande.

I det som populärt i designsammanhang kallas för “double diamond” ser vi hur man inom design anstränger sig för att förstå problembilden och behov så brett som möjligt. Men allt eftersom tiden går så måste vi bestämma oss för vilka behov vi tar hänsyn till.

Och då väljer vi naturligt att fokusera på de behov som flest människor har. Det som många har gemensamt.

Resultatet blir att människor i utkanterna av efterforskningnarna, och i utkanten av vad som kan beskrivas som generella behov, helt enkelt inte får någon hänsyn i design-lösningen. Det finns till och med ett begrepp i branschen för detta: “edge-cases”. Om du är ett edge-case är du inte en människa vars behov vi på något sätt prioriterar.

Om vi byggde med människors välbefinnande i fokus från början skulle tillgänglighet för människor med funktionsnedsättning *aldrig* vara något som kom i andra hand, som något separat. Ett edge-case skulle bedömas utifrån den skada vi åsamkar en människa, inte utifrån hur ovanlig händelsen är.

I stället prioriteras idag behoven hos de som redan gynnas av samhället – som passar in och är normaliserade – och gynnas dubbelt eftersom just deras behov hamnar i blickfånget.

Mätning ökar synligheten

För att kunna jobba etiskt, i meningen att vi undviker att bygga sådant som gör att människor far illa, måste mänskligt välmående vara en del i beslutsfattandet. Vi måste våga dokumentera, mäta och spekulera i hur människor kan fara illa

Den här informationen kan sedan användas för att

motivera beslutsfattande
synliggöra människor som annars inte hörs
prioritera vägval i teknisk utveckling
förstå när man ska backa ett beslut för att man ser konsekvenserna
skapa en spårbarhet (dokumentation) för etiska vägval och hänsyn

(se Tim Berners-Lee och ContractForTheWeb.org)

Vi kommer aldrig kunna förutse allt, men när våra metoder inte ens uppmuntrar till att prata om det så är negativ påverkan nästan garanterad. Vi kan alltid bli bättre på att förstå vem som drabbas hårdast och vilken påverkan vi själva vill bidra till.

Här är två metoder:

Påverkanskartläggning

En påverkanskartläggning är en form av riskanalys som tar hänsyn till vem som påverkas och vad som händer. Varje påverkan utgår från en beskrivning av vem som drabbas och vad som händer dem, och denna påverkan skattas sedan enligt fyra faktorer:

Hur omfattande är denna påverkan?

Handlar det om pinsamheter eller om liv och död?
Hur mycket bidrar vi?

Alltså, om vi inte skulle ha gjort något, skulle denna påverkan finnas? Ju mer vi bidrar, desto mer är det vårt ansvar att minimera negativ påverkan.
Hur försummade är de som drabbas?

Om de som drabbas redan har en svag röst i samhället är det än viktigare att hjälpa dem att stärka den rösten.
Hur sannolikt är det att det händer?

Ju högre sannolikhet, i kombination med övriga faktorer, desto viktigare att åtgärda.

Varje svar är en gemensam bedömning och faktorerna skattas och uppdateras regelbundet allt eftersom man lär sig mer, och allra helst eftersträvar man förstås att involvera människor med förstahandsupplevelser.

Påverkanskartläggning kan vara ett kraftfullt verktyg eftersom det kan användas för såväl positiv som negativ påverkan. Dess styrka som verktyg är att det kan hjälpa ett team inom produktutveckling att prioritera inte bara utifrån ekonomiskt utfall och konvertering, utan även utifrån vem som fara illa.

Använd metoden för att hjälpa din organisation förstå påverkan, och prioritera aktiviteter.

Den inkluderande pandan

Pandan är en ingång för en organisation att lättare förstå alla de människor som kan påverkas av en digital lösning.

Cirkeln i mitten, eller mulen, inbegriper alla de som vi har i åtanke som vår målgrupp, de vi avsiktligt bygger för.

Örat till vänster representerar de exkluderade. Det kan vara människor som kan ha nytta av lösningen men ingen energi läggs på att bygga för dem. Det kan också vara människor som inte alls gynnas av lösningen utan direkt missgynnas av den, som i fallet med elsparkcyklarna.

Örat till höger representerar de oönskade. Vi vill inte att dessa personer ska använda lösning, därför att de kan fara illa själva, eller skada andra. Enklaste sättet är att vissa lösningar för vuxna bör utesluta barn. Och vissa lösningar för barn bör utesluta vuxna.

Det faktum att öronen överlappar med huvudet pekar på att det sannolikt finns människor i grupperna exkluderade och oönskade som lyckas använda lösningen i alla fall.

Vilket gör att vi kan avsluta med nosen, som är den del av personerna du aktivt bygger för som far illa ändå. Antingen för att du dragit fel slutsatser om deras behov, eller för att de drabbas av beteendet hos oönskade människor.

När du regelbundet kartlägger deltagare och icke-deltagare med hjälp av den inkluderande pandan så får du hjälp att börja förstå effekter på andra människor än målgruppen. Du får också hjälp att förstå att din lösning alltid är större än de människor du tror att du riktar dig till.

Handla som människa

När Stanislav Petrov tog emot det internationella fredspriset Dresdenpriset år 2013 för sitt agerande i att förhindra ett tredje världskrig ingick följande formulering i motiveringen:

”Det blev rätt, därför att han inte handlade som tekniker, och inte som officer, utan som människa.“

Stanislav Petrov gick bort 2017, men den som vill fortsätta handla som människa kan göra det, genom att:

Våga ifrågasätta när teknik agerar beslutsfattare
Våga ifrågasätta den historiska data, och klassificering, som våra informationssystem och bibliotek håller vid liv
Förstå att allt som kan byggas inte ska byggas, hur lönsamt det än är
Undvik att klassificera människor, men prata gärna om förmågor och försummelse
Synliggör när människor far illa
Stå upp för att mänskligt välmående ska vara en central del i all teknisk utveckling, och något som mäts jämte lönsamhet

Därför vill jag också avsluta med ett hoppfullt citat från en ung flicka som skrev följande i sin dagbok när hon var 14 år, som en stark påminnelse till oss alla.

”Så underbart det är att ingen behöver vänta ett enda ögonblick innan de börjar förbättra världen!”

— Anne Frank

Läs mer

Stanislav Petrov – Wikipedia
‘How I stopped nuclear war’ (BBC)
Stanislav Petrov saved more lives than just about any human who ever lived – Vox
Stanislav Petrov, ‘The Man Who Saved The World,’ Dies At 77
Dewey Decimal Classification – Wikipedia
IBM & “Death’s Calculator”
IBM’s Role in the Holocaust – What the new documents reveal
IBM And Nazi Germany – CBS News
Neural Network Learns to Identify Criminals by Their Faces – MIT Technology Review
Exposed: China’s Operating Manuals For Mass Internment And Arrest By Algorithm
Facial recognition wrongly identifies public as potential criminals 96% of time, figures reveal | The Independent
Sanktionsavgift för ansiktsigenkänning i skola – Datainspektionen
Gay dating apps still leaking location data – BBC News
Dating apps are refuges for Egypt’s LGBTQ community, but they can also be a trap – The Verge
The Canberra Transport Photo
Mackan Andersson on Twitter:  korkat placerade elsparkcyklar
Exkluderande design – Wikipedia
Homepage – Contract for the Web
Introducing the Inclusive Panda • axbom.blog
AI ethics is all about power

Tack

Stort varmt tack till Sarah Larsson Bernhardt och Deeped Niclas Strandh, tillsammans Social by default, som bjöd in mig att presentera på Internetdagarna 2019 i spåret Digital etik och moral. Jag skräddarsydde den här föreläsningen för tillfället och det är utan tvivel den mest emotionellt starka föreläsningen jag komponerat och presenterat.

Presentationsmaterial

Samtliga bilder från dagens presentation finns på Speakerdeck.