What do you think?
Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy
Goodreads Choice Award
Nominee for Readers' Favorite Science & Technology (2016)We live in the age of the algorithm. Increasingly, the decisions that affect our lives--where we go to school, whether we can get a job or a loan, how much we pay for health insurance--are being made not by humans, but by machines. In theory, this should lead to greater fairness: Everyone is judged according to the same rules.
But as mathematician and data scientist Cathy O'Neil reveals, the mathematical models being used today are unregulated and uncontestable, even when they're wrong. Most troubling, they reinforce discrimination--propping up the lucky, punishing the downtrodden, and undermining our democracy in the process.
But as mathematician and data scientist Cathy O'Neil reveals, the mathematical models being used today are unregulated and uncontestable, even when they're wrong. Most troubling, they reinforce discrimination--propping up the lucky, punishing the downtrodden, and undermining our democracy in the process.
259 pages, Hardcover
First published September 6, 2016
About the author
Cathy O'Neil
7 books553 followersCathy O’Neil is the author of the bestselling Weapons of Math Destruction, which won the Euler Book Prize and was longlisted for the National Book Award. She received her PhD in mathematics from Harvard and has worked in finance, tech, and academia. She launched the Lede Program for data journalism at Columbia University and recently founded ORCAA, an algorithmic auditing company. O’Neil is a regular contributor to Bloomberg View.
Ratings & Reviews
Friends & Following
Create a free account to discover what your friends think of this book!
Community Reviews
Displaying 1 - 5 of 5 reviews
November 1, 2021
Hvis man undrer sig over hvorfor vi har GDPR eller bare synes det er irriterende, så læs bare indledningen her. Resten af bogen er bare eksempel på eksempel på hvorfor det er super vigtigt med god lovgivning på dataområdet.
August 12, 2023
Denne bog er for alle, der søger inspiration og specifikke eksempler på etiske og politiske dilemmaer i forbindelse med brug af big data. Jeg er meget begejstret for O'Neils viden om områdets praktiske udbredelse i USA. Jeg er til gengæld mindre begejstret for hendes argumenter.
Det er tydeligt, at vi ikke har at gøre med en filosof eller politisk tænker. O'Neil skyder om sig med sætninger som "det er unfair", "det underminerer demokrati" og "dette eller hint er/er ikke retfærdigt", men intet sted forklare hun hvorfor eller hvordan. Det er udelukkende baseret på appeller til intuition og common knowledge. Man får fornemmelsen af, at hver gang hun afslutter sine argumenter med disse sætninger, så står der implicit: "det ved vi jo godt alle sammen, for vi vil gerne gøre det gode". Men frustrationen dunker til tider i blodårene mens man læser. FOR HVAD ER DET GODE?!?!
Det er ærgerligt. For bogen er ikke bare relevant og aktuel, men vigtig! Den tager fat i den nye digitale teknologis skyggesider. Den forklarer os, at vi ikke er så private, som vi går og tror, og at dette kan være til fare for vores fremtidige muligheder, som fx hvilket universitet man (i USA) kan komme ind på, hvor dyr din bilforsikring, hvor meget du skal betale i rente på dit huslån (hvis du da ud fra dine data er kvalificeret til at få et) eller om du kan få et job.
Det mest uhyggelige er, at O'Neil har eksempler på, at dette ikke er fremtiden, men nutiden. Allerede nu findes der så mange WMD's (weapons of math destruction), som hun kalder dem, i USA, at de fattige er fanget i deres position fordi, som hun skriver:
"Poor people are more likely to have bad credit and live in high-crime neighborhoods, surrounded by other poor people. Once the dark universe of WMDs digest that data, it showers them with predatory adds for subprime loans or for-profit schools. It sends more police to arrest them, and when they're convicted it sentences them to longer terms. This data feed into other WMDs, which score the same people as high risks or easy targets and proceed to block them from jobs, while jacking up their rates for mortgages, car loans, and every kind of insurance imaginable. This drives their credit rating down further, creating nothing less than a death spiral of modeling. Being poor in a world of WMDs is getting more and more dangerous and expensive" (s. 199-200).
Det er tydeligt, at vi ikke har at gøre med en filosof eller politisk tænker. O'Neil skyder om sig med sætninger som "det er unfair", "det underminerer demokrati" og "dette eller hint er/er ikke retfærdigt", men intet sted forklare hun hvorfor eller hvordan. Det er udelukkende baseret på appeller til intuition og common knowledge. Man får fornemmelsen af, at hver gang hun afslutter sine argumenter med disse sætninger, så står der implicit: "det ved vi jo godt alle sammen, for vi vil gerne gøre det gode". Men frustrationen dunker til tider i blodårene mens man læser. FOR HVAD ER DET GODE?!?!
Det er ærgerligt. For bogen er ikke bare relevant og aktuel, men vigtig! Den tager fat i den nye digitale teknologis skyggesider. Den forklarer os, at vi ikke er så private, som vi går og tror, og at dette kan være til fare for vores fremtidige muligheder, som fx hvilket universitet man (i USA) kan komme ind på, hvor dyr din bilforsikring, hvor meget du skal betale i rente på dit huslån (hvis du da ud fra dine data er kvalificeret til at få et) eller om du kan få et job.
Det mest uhyggelige er, at O'Neil har eksempler på, at dette ikke er fremtiden, men nutiden. Allerede nu findes der så mange WMD's (weapons of math destruction), som hun kalder dem, i USA, at de fattige er fanget i deres position fordi, som hun skriver:
"Poor people are more likely to have bad credit and live in high-crime neighborhoods, surrounded by other poor people. Once the dark universe of WMDs digest that data, it showers them with predatory adds for subprime loans or for-profit schools. It sends more police to arrest them, and when they're convicted it sentences them to longer terms. This data feed into other WMDs, which score the same people as high risks or easy targets and proceed to block them from jobs, while jacking up their rates for mortgages, car loans, and every kind of insurance imaginable. This drives their credit rating down further, creating nothing less than a death spiral of modeling. Being poor in a world of WMDs is getting more and more dangerous and expensive" (s. 199-200).
May 4, 2021
Fremragende og to-the-point lille bog. Opfinder begrebet "Weapons of Math Destruction" og gennemgår hvordan WMD-algoritmer - forstået som algoritmer, der er uigennemsigtige, ikke har korrigerende feedback loops indbygget og som har stor (skadelig) effekt på dem, algoritmerne går ud over - område for område vinder frem.
De "unfold when a single mother cant arrange child care fast enough to adapt to her work schedule (som er lagt af en algoritme), or when a struggling young person is red-lighted for an hourly job by a workplace personality test. We see them when a poor minority teenager gets stopped, roughed up, and put on warning by the local police, or when a gas station attendant who lives in a poor zip code gets hit with a higher insurance bill" som hun skriver s. 200. Algoritmerne "distort higher education, dirve up debt, spur mass incarceration, pummel the poor at nesarly every juncture, and undermine democracy" (s. 199)
De "unfold when a single mother cant arrange child care fast enough to adapt to her work schedule (som er lagt af en algoritme), or when a struggling young person is red-lighted for an hourly job by a workplace personality test. We see them when a poor minority teenager gets stopped, roughed up, and put on warning by the local police, or when a gas station attendant who lives in a poor zip code gets hit with a higher insurance bill" som hun skriver s. 200. Algoritmerne "distort higher education, dirve up debt, spur mass incarceration, pummel the poor at nesarly every juncture, and undermine democracy" (s. 199)
August 4, 2021
3 stjerner fordi det var en fin bog, og end lidt repetitiv og tør - de fleste koncepter og cases havde jeg hørt om, så det var mere at min viden blev underbygget. Det er dog altid nice med nogle facts
February 24, 2026
Virkelig et vigtigt emne. Men formidlet kedeligt og gentagende. Jeg synes enten at bogen skulle have været mere teknisk eller præget af mere prosa , f.eks. med flere personlige historier.
Jeg gad godt vide hvordan det står til med onde algoritmer i Danmark
Jeg gad godt vide hvordan det står til med onde algoritmer i Danmark
Displaying 1 - 5 of 5 reviews