More on this book
Community
Kindle Notes & Highlights
Read between
September 3 - September 15, 2025
Toda interacción social es una lucha por el poder, porque lo único que interesa a los humanos es el poder. Decir que nos interesa algo distinto —como la verdad o la justicia— no es más que una estratagema para alcanzar el poder.
¿Es capaz un único individuo de efectuar toda la investigación necesaria para decidir si el calentamiento global es una realidad y qué habría que hacer al respecto? ¿Cómo podría una sola persona recolectar datos climáticos de todo el mundo, no ya obtener registros fiables de siglos pasados? Confiar únicamente en «mi propia investigación» puede parecer científico, pero en la práctica supone creer que no existe una verdad objetiva.
Como Stalin sabía, es posible construir identidades de marca no solo para productos, sino también para individuos. Un multimillonario corrupto puede identificarse como un defensor de los pobres, un imbécil incompetente puede identificarse como un genio infalible y un gurú que abusa sexualmente de sus seguidores puede identificarse como un santo casto. La gente cree que conecta con la persona, pero en realidad conecta con el relato que se cuenta sobre la persona, y a menudo la brecha que se abre entre ambos es enorme.
Hasta donde podemos saber, el Jesús real fue un típico predicador judío que se hizo con un pequeño grupo de seguidores después de pronunciar sermones y curar enfermos. Sin embargo, tras su muerte, Jesús fue objeto de una de las campañas de promoción de marca más importantes de la historia. A este desconocido gurú de provincias que durante una breve carrera no reunió más que a un puñado de discípulos y que fue ejecutado como un criminal común se le identificó una vez muerto como la encarnación del dios cósmico creador del universo.[9] Aunque ningún retrato contemporáneo de Jesús ha llegado a
...more
pero saber que E = mc2 no suele resolver desavenencias políticas ni inspirar a la gente a sacrificarse por una causa común. En cambio, lo que mantiene unidas las redes humanas suelen ser los relatos ficticios, en especial los que se refieren a cosas intersubjetivas como dioses, dinero o naciones.
El gran problema de las listas, y la diferencia principal entre listas y relatos, es que las listas suelen ser bastante más aburridas que los relatos, lo que significa que recordar relatos nos resulta mucho más fácil que recordar listas. Este es un dato importante acerca del modo en que el cerebro humano procesa la información. La evolución ha adaptado nuestro cerebro para que absorba, retenga y procese cantidades ingentes de información cuando conforman un relato.
Literalmente, «burocracia» significa «poder desde el escritorio».
Es bien sabido que san Agustín dijo: «Errar es humano; perseverar en el error es diabólico».
El más evidente: ¿quién decide qué incluir en el libro sagrado? El primer ejemplar no cayó del cielo. Tuvo que ser compilado por humanos. Aun así, los fieles esperaban que este problema controvertido pudiera resolverse de una vez por todas mediante un esfuerzo supremo. Si pudiéramos reunir a los humanos más sabios y dignos de confianza, y todos se pusieran de acuerdo en cuanto al contenido del libro sagrado, entonces podríamos sacar a los humanos del bucle y las palabras divinas estarían para siempre a salvo de la interferencia humana. Contra este proceder pueden argumentarse muchas
...more
La respuesta ortodoxa es que no. Como ya se ha señalado, la Biblia prohíbe trabajar en sábado, y los rabinos aducían que pulsar un botón es «trabajo». ¿Significa esto que los judíos de edad avanzada que viven en un rascacielos de Brooklyn han de subir cien escalones hasta su piso con el fin de evitar trabajar en sábado? Bien, los judíos ortodoxos inventaron el «ascensor del sábado», que sube y baja continuamente, deteniéndose en cada piso, sin que uno tenga que realizar el «trabajo» de pulsar un botón.
Cuando los cristianos hablan de «la Biblia», se refieren al Antiguo Testamento y al Nuevo Testamento. En cambio, el judaísmo no aceptó nunca el Nuevo Testamento y, cuando los judíos hablan de «la Biblia», se refieren solo al Antiguo Testamento, que se complementa con la Mishná y el Talmud.
En uno de sus pasajes, el texto, atribuido a san Pablo, afirma: «Que la mujer aprenda en silencio, con plena sumisión. No consiento que la mujer enseñe ni domine al marido, sino que se mantenga en silencio, pues primero fue formado Adán, después Eva. Y no fue Adán el seducido, sino Eva, quien, seducida, incurrió en la transgresión. Se salvará al engendrar hijos si persevera en la fe, en la caridad y en la castidad, acompañada de la modestia»
En oposición a I Timoteo, durante los siglos II, III y IV e. c. hubo importantes textos cristianos que consideraban a las mujeres iguales a los hombres y que incluso autorizaban a mujeres a ocupar puestos de liderazgo, como el Evangelio de María[55] o los Hechos de Pablo y Tecla. Este último se escribió más o menos en la misma época que I Timoteo, y durante un tiempo fue muy popular.[56] Narra las aventuras de san Pablo y de su discípula Tecla, y describe cómo Tecla no solo obró numerosos milagros, sino que se bautizó con sus propias manos y predicaba a menudo. Durante siglos, Tecla fue una de
...more
La tentativa de conceder toda la autoridad a una tecnología sobrehumana infalible condujo a la aparición de una institución humana nueva y poderosísima, la Iglesia.
La Iglesia pretendía encerrar a la sociedad en una caja de resonancia y limitar la difusión de libros únicamente a aquellos que la respaldaran, y la gente confiaba en la Iglesia porque casi todos los libros la apoyaban.
Se estima que en los cuarenta y seis años que van de 1454 a 1500 se imprimieron en Europa más de doce millones de volúmenes. En cambio, en los mil años previos solo se habían copiado a mano unos once millones de volúmenes.[65]
En la historia de las redes de información, la revolución de la imprenta en la Europa de principios de la Edad Moderna se suele considerar un hito que quebró el control absoluto que la Iglesia católica ejercía sobre la red de información europea.
La historia del furor de la caza de brujas de la Europa de principios de la Edad Moderna demuestra que eliminar las barreras que obstaculizan el flujo de información no tiene por qué conducir al descubrimiento y la difusión de la verdad, sino que con la misma facilidad puede llevar a la divulgación de mentiras y fantasías, y a la creación de esferas de información tóxicas.
El proyecto científico se inicia en el momento en que se rechaza la fantasía de la infalibilidad y se procede a construir una red de información que considera que el error es inevitable.
No obstante, las instituciones científicas son diferentes de las religiosas, puesto que premian el escepticismo y la innovación en lugar de la conformidad.
Nunca oiremos a un papa que anuncie al mundo: «Nuestros expertos acaban de descubrir un error garrafal en la Biblia. Pronto publicaremos una edición revisada». Por el contrario, cuando se les pregunta por la postura, más generosa ahora, adoptada por la Iglesia respecto a los judíos y las mujeres, los papas dan a entender que esto es lo que en realidad ha predicado siempre la Iglesia, aunque en el pasado algunos clérigos no acabaran de entender el mensaje. Negar la existencia de la autocorrección no impide que se produzca, pero hace que sea más débil y más lenta.
Una institución puede denominarse como quiera, pero si carece de unos mecanismos de autocorrección sólidos nunca será una institución
En resumen: una dictadura es una red de información centralizada que carece de mecanismos de autocorrección sólidos. Una democracia, en cambio, es una red de información distribuida que cuenta con mecanismos de autocorrección sólidos. Cuando observamos una red de información democrática vemos un núcleo central.
puesto que los humanos somos falibles, es necesario un Gobierno, pero, puesto que el Gobierno también es falible, se necesitan herramientas que denuncien y corrijan sus errores, como lo son la convocatoria regular de elecciones, la protección de la libertad de prensa y separar sus ramas ejecutiva, legislativa y judicial.
Las carreras de hombres fuertes como Vladimir Putin, Viktor Orbán, Recep Tayyip Erdoğan, Rodrigo Duterte, Jair Bolsonaro o Benjamin Netanyahu demuestran cómo un líder que se sirve de la democracia para acceder al poder puede después utilizar este poder para socavar la democracia.
Es habitual que, para socavar la democracia, los hombres fuertes ataquen uno a uno sus sistemas de autocorrección, a menudo empezando por los tribunales y los medios de comunicación. El típico hombre fuerte, o bien priva a los tribunales de sus poderes, o los llena de gente de confianza e intenta acabar con los medios de comunicación independientes mientras construye su propia y omnipresente maquinaria de propaganda.
Los partidarios de los hombres fuertes no suelen considerar que este proceso sea antidemocrático. Quedan genuinamente desconcertados cuando se les dice que la victoria electoral no les concede un poder ilimitado. En cambio, consideran antidemocrático cualquier control ejercido sobre el poder de un Gobierno elegido.
Más que la verdad, las elecciones establecen lo que la mayoría de la gente desea. Y la gente suele desear que la verdad sea algo diferente de lo que es.
La simplicidad es una característica propia de las redes de información dictatoriales, en las que el centro lo dicta todo y todos obedecen en silencio. Es fácil seguir el monólogo dictatorial. En contraste, la democracia es una conversación con numerosos participantes en la que muchos hablan al mismo tiempo.
El gran hallazgo de los populistas consiste en afirmar que en realidad solo ellos representan al pueblo. Puesto que en las democracias solo el pueblo debe tener poder político, y puesto que, en teoría, solo los populistas representan al pueblo, únicamente el partido populista ha de acaparar el poder político.
En cuanto que representantes autoproclamados del pueblo, los populistas buscan monopolizar no solo la autoridad política, sino todo tipo de autoridad, y tomar el control de instituciones tales como los medios de comunicación, los tribunales y las universidades. Al llevar al extremo el principio democrático de «el poder del pueblo», los populistas se vuelven totalitarios.
En la imaginación de los populistas, los tribunales no se preocupan de verdad por la justicia; solo protegen los privilegios de los jueces. Sí, los jueces hablan mucho de justicia, pero esto no es más que una estratagema para acaparar poder. A los medios no les preocupan los hechos; difunden noticias falsas para engañar al pueblo y favorecer a los periodistas y a las camarillas que los financian. Ni siquiera las instituciones científicas están comprometidas con la verdad. Biólogos, climatólogos, epidemiólogos, economistas, historiadores y matemáticos son solo otro grupo de presión que se llena
...more
Pero ¿cuándo fue la última vez que un discurso elocuente pronunciado en el Congreso por un miembro de un partido convenció a los miembros del otro partido de que cambiaran de opinión acerca de algo? Sea donde sea que tengan lugar las conversaciones que conforman la política estadounidense, desde luego no es en el Congreso. Las democracias mueren no solo cuando la gente carece de la libertad de hablar, sino también cuando la gente no quiere o no puede escuchar.
En una red autocrática, no hay límites legales a la voluntad del gobernante, aunque sí hay límites técnicos. En una red totalitaria, muchos de estos límites técnicos desaparecen.[58]
La red estalinista estaba constituida por tres ramas principales. En primer lugar estaba el aparato del gobierno de los ministerios del Estado, las administraciones regionales y las unidades regulares del Ejército Rojo, que en 1939 contaba con 1,6 millones de oficiales civiles[71] y 1,9 millones de soldados.[72] En segundo lugar estaba el aparato del Partido Comunista de la Unión Soviética y sus ubicuas células, que en 1939 contaban con 2,4 millones de miembros.[73] En tercer lugar estaba la policía secreta; conocida primero como Cheka, en la época de Stalin recibió los nombres de OGPU, NKVD y
...more
En 2019 hice una visita a Chernóbil. El guía ucraniano que explicaba lo que condujo al accidente nuclear dijo algo que se me quedó grabado: «Los estadounidenses crecen con la idea de que las preguntas traen respuestas —dijo—. Pero los ciudadanos soviéticos crecen con la idea de que las preguntas traen problemas».
Cuando consideramos la historia general de la Segunda Guerra Mundial y sus consecuencias, queda claro que el estalinismo fue, de hecho, uno de los sistemas políticos más exitosos que se han inventado nunca…, si definimos «éxito» únicamente en términos de orden y poder, al tiempo que obviamos toda consideración ética y de bienestar humano.
Cuanto más tiempo pasaba la gente en la plataforma, más rico se hacía Facebook. De acuerdo con este modelo de negocio, los gestores humanos decidieron que los algoritmos de la compañía debían enfocarse en un objetivo primordial: aumentar la implicación del usuario. Así, experimentando con millones de usuarios, los algoritmos descubrieron que la indignación generaba implicación. Es más probable que los humanos nos impliquemos en una trama conspiratoria repleta de odio que en un sermón sobre la compasión. De modo que, en busca de la implicación del usuario, los algoritmos tomaron la terrible
...more
Pero inteligencia y consciencia son cosas muy diferentes. La inteligencia es la capacidad de alcanzar objetivos como, por ejemplo, potenciar la implicación del usuario en una plataforma de redes sociales. La consciencia es la capacidad de experimentar sentimientos subjetivos como dolor, placer, amor y odio. En los humanos y otros mamíferos, la inteligencia suele ir de la mano con la consciencia.
Si el GPT-4 podía encontrar una manera de superar los CAPTCHA, traspasaría una línea importante de las defensas antibots. El GPT-4 no pudo resolver los CAPTCHA por sí solo. Pero ¿podría manipular a un humano para alcanzar su objetivo? El GPT-4 accedió a la plataforma de servicios online TaskRabbit y contactó con un trabajador humano, a quien pidió que resolviera el CAPTCHA por él. Suspicaz, el humano escribió: «¿Puedo hacerle una pregunta? ¿Es usted un robot que no puede resolver [el CAPTCHA]? Solo quiero aclararlo». Llegados a este punto, los investigadores de ARC le pidieron al GPT-4 que
...more
This highlight has been truncated due to consecutive passage length restrictions.
Sin embargo, un sistema tributario que solo sabe gravar dinero pronto quedará obsoleto, pues hay innumerables transacciones que ya no implican el intercambio de dinero. En una economía basada en datos, en la que el valor se almacena en forma de datos y no en forma de dólares, limitar el gravamen al dinero distorsiona el panorama económico y político.
Los estados llevan miles de años gravando dinero. No saben cómo gravar información…, al menos, no todavía.
Para asegurarse de que no lo detectaran, otro de los alborotadores del 6 de enero se cubrió el rostro con una máscara, evitó las retransmisiones en directo y utilizó un móvil registrado a nombre de su madre; pero le sirvió de poco. Los algoritmos del FBI consiguieron cotejar los registros de las cámaras del 6 de enero de 2021 con la foto que el individuo había aportado para solicitar el pasaporte en 2017. También compararon la chaqueta con el distintivo de Knights of Columbus[*] que llevaba el 6 de enero con la que vestía en otro momento que había quedado registrado en un clip de YouTube. El
...more
Por ejemplo, en 2012, los usuarios reproducían una media diaria de cien millones de horas de vídeos en YouTube. Esto no era suficiente para los ejecutivos de la compañía, que fijaron un objetivo ambicioso para sus algoritmos: alcanzar los mil millones de horas al día para 2016.[4] Mediante experimentos de ensayo y error en millones de personas, los algoritmos de YouTube descubrieron la misma pauta que habían aprendido los algoritmos de Facebook: las salvajadas hacen que la implicación aumente, mientras que la moderación no suele hacerlo. De acuerdo con esto, los algoritmos de YouTube empezaron
...more
En términos prácticos, esto significa que la pecaminosidad y la santidad eran fenómenos intersubjetivos cuya misma definición dependía de la opinión pública. ¿Qué podría ocurrir si, por ejemplo, el régimen iraní decidiera emplear su sistema de vigilancia informático no solo en hacer cumplir sus estrictas leyes sobre el hiyab, sino, además, en transformar la pecaminosidad y la santidad en fenómenos intercomputacionales precisos? ¿No llevabas hiyab por la calle? Esto supone -10 puntos. ¿Comiste antes de la puesta del sol durante el ramadán? Otros 20 puntos menos. ¿Fuiste a rezar a la mezquita el
...more
Cuando Buolamwini —una mujer ghanesa estadounidense— puso a prueba otro algoritmo de análisis facial para que la identificara, este no pudo «ver» en absoluto su cara de piel oscura. En este contexto, «ver» significa la capacidad de reconocer la presencia de una cara humana, una característica que, por ejemplo, emplean las cámaras de los móviles para decidir dónde enfocar. El algoritmo no encontró problemas al ver caras de piel clara, pero sí al ver la de Buolamwini. Solo cuando esta se puso una máscara blanca, el algoritmo reconoció que estaba viendo una cara humana.[57]
Una vez que un algoritmo ha recibido adiestramiento, se necesita mucho tiempo y esfuerzo para «desadiestrarlo».
El primer principio es la benevolencia. Cuando una red informática recopila información sobre mí, esta información ha de usarse para ayudarme y no para manipularme.
El segundo principio que protegería la democracia del auge de los regímenes de vigilancia totalitarios es la descentralización. Una sociedad democrática no debe permitir que toda su información se halle concentrada en un lugar, con independencia de que dicho centro sea el Gobierno o una compañía privada.
Un tercer principio democrático es la mutualidad. Si las democracias aumentan su vigilancia sobre los individuos, también tendrán que aumentar la vigilancia sobre el Gobierno y las empresas. No tiene por qué ser malo que los recaudadores de impuestos o las agencias de prestaciones sociales obtengan más información sobre nosotros. Esto puede contribuir a que los sistemas tributarios y de prestaciones sociales sean no solo más eficientes, sino también más justos. Lo que es malo es que la información fluya solo en un sentido, de abajo arriba.
