Algoritmos de Destruição em Massa (Portuguese Edition)

by Cathy O'Neil

Matemáticos e estatísticos estavam estudando os nossos desejos, movimentações e poder de compra. Eles previam nossa credibilidade e calculavam nosso potencial enquanto estudantes, trabalhadores, amantes e criminosos.

“Como você justifica avaliar pessoas por uma medida que você não é capaz de explicar?”.

vara quanto a cenoura.

Os pontos cegos de um modelo refletem o julgamento e prioridades de seus criadores.

Modelos são opiniões embutidas em matemática.

modelos matemáticos, por natureza, são baseados no passado, e no pressuposto que padrões irão se repetir.

A matemática podia multiplicar a asneira, mas não decifrá-la.

O ranking, em suma, era sina.

“Nós queremos justiça. Não há justiça se não nos deixarem colar”.

Vulnerabilidade vale ouro. Sempre valeu.

As faculdades com fins lucrativos não se preocupam em atingir estudantes ricos. Eles e seus pais sabem demais.

O recrutamento, em todas as suas formas, é o coração do modelo de negócio dessas faculdades e é responsável por muito mais gastos, na maioria dos casos, do que a educação. Um relatório do Senado sobre trinta sistemas com fins lucrativos descobriu que empregavam um recrutador para cada 48 alunos. O Apollo Group, empresa matriz da Universidade de Phoenix, gastou mais de um bilhão de dólares com marketing em 2010, quase tudo em recrutamento. No total, US$ 2.225 de gastos em marketing por estudante e somente US$ 892 em ensino.

Os 40% mais pobres da população dos EUA estão em sérias dificuldades. Muitos empregos na indústria desapareceram, substituídos por tecnologia ou enviados ao exterior. Os sindicatos perderam seu poder. Os 20% no topo da população controlam 89% da riqueza no país, e os 40% inferiores não controlam nada. Seus patrimônios são negativos: a média de dívida nessa enorme e batalhadora classe-baixa é de 14.800 dólares por casa, muitos dos quais em contas de cartão de crédito extorsivas. O que essas pessoas precisam é de dinheiro. E o decisivo para ganhar mais dinheiro, eles ouvem repetidamente, é a educação.

Pode parecer não tão sério. Mas uma parte crucial da justiça é a igualdade. E isso significa, dentre muitas outras coisas, experimentar a justiça criminal de modo igual.

não há como negar que as pessoas são estatisticamente mais propensas a se comportar como aquelas com quem passam mais tempo junto. O Facebook, por exemplo, descobriu que amigos que se comunicam com frequência têm muito mais chances de clicarem no mesmo anúncio. Estatisticamente falando, a farinha é do mesmo saco.

Orquestras, que há muito tempo eram dominadas por homens, famosamente começaram nos anos 1970 a fazer audições com músicos escondidos atrás de uma cortina. Contatos e reputações de repente não tinham mais valor. Tampouco a raça ou alma mater do músico. A música soando por detrás da cortina falava por si. Desde então, a porcentagem de mulheres tocando em grandes orquestras saltou por um fator de cinco — apesar de elas ainda comporem apenas um quarto do grupo.

Esses funcionários eram mesmo descartáveis? Novamente voltamos à frenologia digital. Se um sistema designa uma trabalhadora como pobre geradora de ideias ou fraca conectora, o veredito se torna sua própria verdade.

Em estatística, este fenômeno é conhecido como Paradoxo de Simpson: quando todo um corpo de dados demonstra uma tendência, mas quando desmembrado em subgrupos, a tendência oposta é vista para cada um desses subgrupos.

No cerne da questão do peso está uma estatística desacreditada, o índice de massa corporal (IMC). Ele é baseado numa fórmula criada dois séculos atrás por um matemático belga, Lambert Adolphe Jacques Quetelet, que sabia quase nada sobre saúde ou o corpo humano. Ele apenas queria uma fórmula simples para medir obesidade numa população grande. Ele a baseou no que chamou de “homem médio”.

abertura a ideias, conscienciosidade, extroversão, amabilidade e neuroticismo.

Os processos de Big Data programam em código o passado. Eles não inventam o futuro. Fazer isso requer imaginação moral, o que é algo que apenas humanos podem fazer. Temos de explicitamente embutir melhores valores em nossos algoritmos, criando modelos de Big Data que seguem nossa conduta ética.