Se a Amazon.com, por meio de uma correlação defeituosa, começasse a recomendar livros de jardinagem a adolescentes, os cliques desabariam, e o algoritmo seria ajustado até passar a acertar. Sem feedback, no entanto, um mecanismo estatístico pode continuar fazendo análises ruins e danosas sem nunca aprender com seus erros.
