More on this book
Community
Kindle Notes & Highlights
Read between
September 3 - September 15, 2025
La democracia requiere equilibrio. Gobiernos y empresas suelen desarrollar aplicaciones y algoritmos como instrumentos de vigilancia de arriba abajo. Pero, con la misma facilidad, los algoritmos pueden convertirse en instrumentos que controlen la transparencia y la rendición de cuentas de abajo arriba, y que destapen sobornos y evasiones de impuestos.
Un cuarto principio democrático defiende que los sistemas de vigilancia siempre han de dejar margen para el cambio y el descanso. En la historia humana, la opresión se puede ejercer, o bien negando a los humanos la capacidad de cambiar, o bien negándoles la posibilidad de descansar.
Sin embargo, automatizar el trabajo de una enfermera ofrece muchas más dificultades que hacerlo con el de, al menos, aquellos médicos que sobre todo recaban datos, proporcionan un diagnóstico y prescriben un tratamiento. Esencialmente, estas tareas consisten en un reconocimiento de patrones, y advertir patrones en los datos es algo que la IA hace mejor que los humanos.
En consecuencia, cuando consideramos la posibilidad de que varios empleos y funciones sociales se automaticen, una pregunta fundamental que debemos plantearnos es qué es lo que en realidad quiere la gente: ¿solo quieren resolver un problema o buscan establecer una relación con otro ser consciente?
Contemplando el complejo sistema de la sociedad humana, los progresistas gritaban: «Esto es un caos, pero sabemos cómo arreglarlo. Dejadnos probar». Los conservadores discrepaban diciendo: «Es un caos, pero todavía funciona. Dejadlo estar. Si intentáis arreglarlo, solo haréis que las cosas empeoren».
La flexibilidad de las democracias, su buena disposición a cuestionar antiguas mitologías y sus sólidos mecanismos autocorrectores serán, por lo tanto, activos cruciales.[23] Las democracias han pasado generaciones cultivando dichos activos. Sería absurdo abandonarlos justo cuando más los necesitamos.
La Biblia no solo santifica la esclavitud en los diez mandamientos y en otros tantos pasajes, sino que también dedica una maldición a los hijos de Cam —supuesto padre de los africanos— cuando dice que «siervo de los siervos de sus hermanos será» (Génesis 9:25).
¿Qué ocurrirá con la democracia cuando las IA creen estrategias financieras todavía más complejas y cuando el número de humanos capaces de entender el sistema financiero se reduzca a cero?
Durante los primeros años de la década de 2020, esta situación no hizo más que empeorar. Un estudio de 2020 estimaba que los bots producían el 43,2 por ciento de los tuits que leemos.[49] Un estudio más general realizado en 2022 por la agencia de inteligencia digital Similarweb señalaba que, con toda probabilidad, el 5 por ciento de los usuarios de Twitter eran bots, lo que no les impedía generar «entre el 20,8 y el 29,2 por ciento del contenido total publicado en Twitter».
Supongamos que paso la mayor parte de mis horas de vigilia sentado en mi habitación frente a una pantalla, jugando a juegos online, entablando relaciones virtuales o incluso trabajando a distancia. Apenas salgo, ni siquiera para comer. Solo pido que me traigan comida a domicilio. Si eres como los antiguos judíos y los primeros cristianos, te compadecerás de mí y llegarás a la conclusión de que debo de vivir en una alucinación, pues he roto cualquier vínculo con la realidad de los espacios físicos y con los cuerpos de carne y hueso. Pero si tu pensamiento se parece más al de Lutero y al de
...more
La teoría de juegos nos enseña que la situación más peligrosa en una carrera armamentista corresponde al momento en que uno de los bandos siente que goza de ventaja pero que esta se está desvaneciendo.[40]
En su día, todo lo viejo fue nuevo. La única constante de la historia es el cambio.
Al registrar el pago de impuestos, las tabletas de arcilla de la antigua Mesopotamia ayudaron a forjar las primeras ciudades-Estado. Al canonizar las ideas proféticas, los libros sagrados extendieron nuevos tipos de religiones. Al difundir con celeridad las palabras de presidentes y ciudadanos, los periódicos y el telégrafo abrieron la puerta a las democracias a gran escala y a los totalitarismos de gran envergadura. La información que se registraba y se distribuía por estas vías a veces era cierta, a menudo falsa, pero sin duda creó nuevas conexiones entre un número mayor de personas.
Volvamos ahora a la pregunta que he planteado al principio del libro: si somos tan sabios, ¿por qué somos tan autodestructivos? Somos, a un tiempo, los animales más inteligentes y los más estúpidos de la Tierra. Somos tan inteligentes que podemos producir misiles nucleares y algoritmos superinteligentes. Y somos tan estúpidos que, aunque no estemos seguros de poder controlarlas, y aunque no hacerlo podría conducirnos a la destrucción, seguimos produciendo estas cosas. ¿Por qué lo hacemos? ¿Acaso hay algo en nuestra naturaleza que nos fuerza a seguir la senda de la autodestrucción?
