Nexus Quotes

“comparten un problema fundamental: el ordenador cree haber descubierto una verdad acerca de los humanos cuando, de hecho, lo que ha hecho ha sido imponerles orden. Un algoritmo de redes sociales cree haber descubierto que a los humanos les atraen las atrocidades cuando, en realidad, es el propio algoritmo el que ha condicionado a los humanos para que produzcan y consuman más atrocidades.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“principio fundamental del aprendizaje automático se basa en que, al igual que los humanos, mientras interactúan con el mundo, los algoritmos se pueden enseñar cosas nuevas a sí mismos y producir una inteligencia artificial completamente desarrollada. La terminología no siempre es consistente, pero, en general, para que algo se reconozca como una IA necesita adquirir la capacidad de aprender cosas nuevas por sí misma, ya sea analizando bases de datos de partidas anteriores o jugando nuevas partidas y aprendiendo de la experiencia.[”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“antisemitas, como: «Odio a las putas feministas y todas tendrían que morir y arder en el infierno», o «Hitler tenía razón. Odio a los judíos». El veneno aumentó hasta que, horrorizados, los ingenieros de Microsoft retiraron Tay, solo dieciséis horas después de haberlo lanzado.[55]”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Por ejemplo, el 23 de marzo de 2016, Microsoft lanzó el chatbot de IA Tay y le concedió acceso libre a Twitter. A las pocas horas, Tay empezó a publicar tuits misóginos y”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“El problema al que nos enfrentamos no tiene que ver con cómo privar a los ordenadores de toda actividad creativa, sino más bien con encaminar su creatividad en la dirección correcta. Es el problema que siempre ha afectado a la creatividad humana.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Las monedas de oro y los dólares son entidades intersubjetivas. Las criptomonedas como los bitcoins están a medio camino entre las entidades intersubjetivas y las intercomputacionales. Los”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“pueden crear realidades intercomputacionales análogas a las realidades intersubjetivas producidas por las redes humanas. Al final, estas realidades intercomputacionales podrían ser tan poderosas —y tan peligrosas— como los mitos intersubjetivos creados por los humanos.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Constitution is that by acknowledging that it is a legal fiction created by human beings, it was able to provide mechanisms to reach agreement on amending itself and remedying its own injustices (as chapter 5 explores in greater depth).”
― Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI

“The same is true of AI algorithms. They can learn by themselves things that no human engineer programmed, and they can decide things that no human executive foresaw. This is the essence of the AI revolution: The world is being flooded by countless new powerful agents.”
― Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI

“One of the earliest and most notorious such instances occurred in 2016–17, when Facebook algorithms helped fan the flames of anti-Rohingya violence in Myanmar (Burma).[7]”
― Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI

“When a paper was submitted to the Philosophical Transactions of the Royal Society, the lead question the editors asked was not ‘How many people would pay to read this?’ but ‘What proof is there that this is true?”
― Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI

“Así como los deontólogos que intentan dar respuesta a la pregunta de la identidad se ven empujados a adoptar ideas utilitaristas, los utilitaristas que se ven obstaculizados por la falta de un cálculo en el nivel de sufrimiento acaban por adoptar una postura deontológica.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Los ejecutivos e ingenieros que se apresuran a desarrollar la IA cometen un enorme error si piensan que existe una manera racional de decirle a la IA cuál ha de ser su objetivo principal. Deben aprender de las amargas experiencias por las que pasaron generaciones de filósofos que intentaron definir objetivos principales y fracasaron.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“La IA descubrió que, si en lugar de intentar adelantar al resto de las embarcaciones, la suya se limitaba a desplazarse en círculos dentro y fuera del puerto, podría acumular más puntos a una velocidad mayor. Por lo visto, ninguno de los humanos que desarrollaron el juego —tampoco Dario Amodei— se percató del resquicio. La IA hacía exactamente aquello por lo que el juego la recompensaba, aunque no fuera lo que los humanos esperaban. Esta es la esencia del problema del ajuste: recompensar A mientras se espera B.[27]”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Populism offers strongmen an ideological basis for making themselves dictators while pretending to be democrats.”
― Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI

“De la guerra creó un modelo racional para entender la guerra, y en la actualidad sigue siendo la teoría militar dominante. Su máxima fundamental es que «la guerra es la continuación de la política con otros medios».[23]”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Desde luego, el problema del ajuste no es nuevo ni exclusivo de los algoritmos. Lastró a la humanidad durante miles de años antes de la invención de los ordenadores. Por ejemplo, fue el problema fundacional del pensamiento militar moderno, consagrado en la teoría de la guerra de Carl von Clausewitz. Clausewitz fue un general prusiano que luchó durante las guerras napoleónicas. Después de la derrota definitiva de Napoleón en 1815, se convirtió en director del Colegio de la Guerra de Prusia. También empezó a desarrollar una gran teoría de la guerra. Después de su muerte por cólera en 1831, su esposa, Marie, editó su manuscrito inacabado y, entre 1832 y 1834, publicó De la guerra en varias partes.[”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“de ira. Pero, al decirle a sus algoritmos que potenciaran la implicación de los usuarios, fue exactamente lo que consiguieron.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Ni Facebook ni otras plataformas de redes sociales se dispusieron de forma consciente a inundar el mundo de noticias falsas y llenas”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“En lugar de invertir en mecanismos autocorrectores que recompensaran contar la verdad, lo que hicieron los gigantes de las redes sociales fue desarrollar unos inauditos mecanismos que destacaban el error y que recompensaban las mentiras y las ficciones. El programa de Artículos Instantáneos que Facebook introdujo en Myanmar en 2016 fue uno de estos mecanismos que agravaban el error. Con el objetivo de aumentar la implicación, Facebook empezó a pagar a los canales de noticias según la implicación, medida en clics y reproducciones, que generaban en los usuarios.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“YouTube.[5] Los creadores de contenido de YouTube que tenían especial interés en captar la atención se dieron cuenta de que, cuando publicaban un vídeo escandaloso y lleno de mentiras, el algoritmo los premiaba recomendándoselo a numerosos usuarios y aumentando la popularidad y las ganancias de los youtubers. En cambio, cuando moderaban el tono y se adherían a la verdad, el algoritmo solía ignorarlos. Tras unos meses de aprendizaje por refuerzo, el algoritmo convirtió a muchos youtubers en troles.[”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Interestingly, Jesus’s last supper was the Jewish Passover meal, which according to the Gospel accounts Jesus shared with his disciples just before his crucifixion. In Jewish tradition, the whole purpose of the Passover meal is to create and reenact artificial memories. Every year Jewish families sit together on the eve of Passover to eat and reminisce about “their” exodus from Egypt. They are supposed not only to tell the story of how the descendants of Jacob escaped slavery in Egypt but to remember how they personally suffered at the hands of the Egyptians, how they personally saw the sea part, and how they personally received the Ten Commandments from Jehovah at Mount Sinai.”
― Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI

“Una diferencia importante entre el dinero y la reputación consiste en que el dinero ha tendido a ser un constructo matemático basado en cálculos precisos, mientras que la esfera de la reputación se ha resistido a una evaluación numérica precisa.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“este sistema de supervisión comercial cada vez más extendido.[44]”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“La académica estadounidense Shoshana Zuboff ha bautizado como «capitalismo de vigilancia» a”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“primero hemos de apreciar la diferencia fundamental entre los nuevos burócratas digitales y sus predecesores de carne y hueso. Los burócratas inorgánicos pueden estar «encendidos» veinticuatro horas al día y pueden vigilarnos e interactuar con nosotros en cualquier lugar y cualquier momento.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Sin embargo, los humanos aún ejercemos un control importante sobre el ritmo, la forma y el rumbo de esta revolución, lo que significa que aún tenemos mucha responsabilidad.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“Por cada graduado en ciencias de la computación que desea ser la próxima Audrey Tang, probablemente haya muchos más que quieran ser los próximos Jobs, Zuckerberg o Musk y construir una compañía privada multimillonaria en lugar de convertirse en un servidor público. Esto conduce a una peligrosa asimetría en la información. La gente que dirige la revolución de la información conoce mucho mejor la tecnología subyacente que quienes se supone que deben regularla. Bajo estas condiciones, ¿qué sentido tiene corear que el cliente siempre lleva razón y que los votantes saben más que nadie?”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“En la década de 2010, las redes sociales se convirtieron en un campo de batalla por el control de la atención humana. En la década de 2020, es probable que la batalla pase de la atención a la intimidad.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

“En 2022, Blake Lemoine, un ingeniero de Google, se convenció de que el chatbot LaMDA, en el que estaba trabajando, había adquirido consciencia, que tenía sentimientos y que temía que se le desconectara. Lemoine —un cristiano devoto que había sido ordenado sacerdote— sintió que tenía el deber moral de hacer que se reconociera el carácter personal de LaMDA, y en concreto de protegerlo de la muerte digital. Cuando los ejecutivos de Google rechazaron sus demandas, Lemoine las hizo públicas. Google reaccionó despidiendo a Lemoine en julio de 2022.[39] Lo más interesante de este episodio no fue la afirmación de Lemoine, que probablemente fuese falsa, sino su disposición a poner en riesgo —y en último término a perder— su lucrativo trabajo por el bien del chatbot.”
― Yuval Noah Harari, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA