The Fall of the Human Empire: Memoirs of a Robot

by Charles-Edouard Bouée

The little-known history of artificial intelligence--told by a robot named Lucie.

Two trends are coming together: exponential growth in the processing power of supercomputers, and new software which can copy the way neurons in the human brain work and give machines the ability to learn. Smart systems will soon be commonplace in homes, businesses, factories, administrations, hospitals and the armed forces. How autonomous will they be? How free to make decisions? What place will human beings still have in a world controlled by robots? After the atom bomb, is artificial intelligence the second lethal weapon capable of destroying mankind, its inventor?

The Fall of the Human Empire traces the little-known history of artificial intelligence from the standpoint of a robot called Lucie. She--or it?--recounts her adventures and reveals the mysteries of her long journey with humans, and provides a thought-provoking storyline of what developments in A.I. may mean for both humans and robots.

Genres: Fiction

136 pages, Hardcover

Published January 7, 2020

Reviews

[Artur Coelho · Rating 4 out of 5]

A discussão sobre os impactos da inteligência artificial, robótica e automação geralmente termina numa de duas conclusões: ou as do caos nos sistemas sociais, com a redundância do ser humano numa economia automatizada, ou as utopias singularitárias que prometem libertação e transcendência dos limites humanos graças aos avanços tecnológicos. Dado o estado das coisas no início do século XXI, tempos de capitalismo terminal, neoliberalismo alastrante e desastre ambiental global em curso, o espaço de ideias inclina-se mais para as primeiras e mais distópicas opções.

Mas, e se houvesse uma terceira via? Não uma que nos libertasse das agruras e sonhos dos dois pólos clássicos destas discussões. Uma que os une, traçando uma sociedade futura progressivamente definida pela IA, robótica e automação, conjugando a obsolescência de parte da humanidade, sem emprego possível numa economia automatizada, com a transcendência potenciada pela tecnologia dos limites humanos para aqueles com riqueza suficiente para pagar as tecnologias. Algo que em si já é uma perspetiva pouco animadora, tornada ainda mais distópica por uma característica que já se nota hoje nestes campos.

A inteligência artificial de que hoje já dispomos potentes exemplos distingue-se pelo poder de computação, pela capacidade de analisar enormes quantidades de dados com uma rapidez e eficácia impossíveis aos humanos. É essa a sua grande promessa, de com isso ser capaz de aumentar as capacidades humanas. No entanto, quando olhamos para lá do deslumbre para os sistemas saídos da IA Watson da IBM, com utilização em apoio a actos médicos, para as proezas das IAs específicas que analisam possibilidades e probabilidades concatenadas com sistemas de aprendizagem (IAs como a Alpha Go, que bate os campões deste jogo asiático, ou os algoritmos de redes neuronais de que a Google faz uso), notamos uma singular fraqueza. Ser capaz de analisar quantidades imensas de dados não é equivalente a gerar novos dados. Para isso, é precisa a intuição e conhecimento humanos, todas as nossas dimensões de inteligência que estão para lá do processamento de informação. Analisar dados, com a potência já disponível hoje nos produtos de inteligência artificial, é uma capacidade imensamente útil, capaz de auxiliar humanos na análise e diagnóstico de situações. Resta a questão da origem dos dados a analisar.

Uma ideia que é sublinhada quase na conclusão deste intrigante ensaio. Ao traçar cenários possíveis de evolução social sob impacto de IA, robótica e automação, Bouée faz notar que para além da quasi-religiosidade da transcendência singularitária e da potencial obsolescência de uma humanidade condenada ao desemprego, um futuro dominado por Inteligência Artificial seria eminentemente estável. O imprevisto e o desconhecido não são quantificáveis, e IAs evoluídas a partir de software analítico teriam uma tendência a estabilizar o conhecimento, não produzindo nada de novo, aconselhando os humanos com base em padrões estáveis. A singularidade aqui torna-se uma imensa estagnação do progresso.

Infelizmente, não é esta a conclusão deste longo ensaio. Nele, Bouée começa por nos levar aos primórdios da computação para nos guiar no desenvolvimento potencial da Inteligência artificial, focando-se nas tendências que hoje a caracterizam. IAs de apoio decisório, robótica industrial mas também pessoal e afetiva, automatização da economia, controle de sistemas sociais com base em algoritmos. São elementos que já hoje se fazem sentir. Projectando um futuro próximo, segue o óbvio caminho da aquisição de consciência por parte do software, enquanto sublinha o potencial estagnador da IA. Querendo terminar numa nota optimista, imagina que as instituições políticas e sociais do futuro serão capazes de reagir e travar este progresso, visto como perigoso para a sobrevivência da espécie humana.

Talvez os robots no futuro olhem com nostalgia para memórias de uma humanidade que os criou e eventualmente se extinguiu, como consequência desse acto de criação. Ou talvez nos mesclemos com as máquinas, transcendendo os nossos limites. Talvez nos estejamos a condenar a um futuro de capitalismo automatizado, sustentando com largueza uma minoria de elites, com o resto da humanidade condenada à pobreza, inatividade e obsolescência. Ou talvez o planeta entre em colapso ambiental antes de termos tido tempo para chegar a este ponto de desenvolvimento, quebrando os sistemas complexos de que depende a nossa sociedade global. O melhor deste tipo de livros está em mostrar-nos que o futuro próximo está cheio de desafios, que a evolução tecnológica acelerada irá mudar radicalmente as nossas noções de sociedade, algo para que temos não só de estar preparados para enfrentar mas também, fundamentalmente, modelar. Apesar do título a roçar a distopia e de um final mais cor-de-rosa do que merecia, este ensaio distingue-se pela sobriedade com que traça o passado, presente e prováveis futuros do desenvolvimento da Inteligência Artificial.

[Ivan Izo · Rating 3 out of 5]

This book starts out as a non-fiction review of the history of AI, which is a little dry but not boring. Then it moves forward to more recent developments such as algorithms and our increasingly network connected society. As it moves into the future it becomes increasingly and necessarily like science fiction. The near future can be predicted from present technologies, so that part is almost a certainty. After that, the author cleverly presents more than one possible future, without breaking up the narrative, as AIs progress toward Kurzweil’s predicted singularity. The further along I got in this book the faster I found I was reading it – possibly because of the gradual transition from nonfiction to fiction. It’s a short read and provides some interesting food for thought.