More on this book
Community
Kindle Notes & Highlights
Read between
September 9 - September 28, 2024
La historia de la religión cristiana, por ejemplo, es un proceso a lo largo del cual los relatos mitológicos y las leyes de la Iglesia han influido en la manera en que los humanos consumimos alimentos, mantenemos relaciones sexuales y entablamos relaciones íntimas, mientras que, de manera simultánea, esos mismos mitos y leyes han sido moldeados por una serie de fuerzas y dramas biológicos subyacentes.
Durante milenios, los seres humanos hemos vivido en los sueños de otros humanos. En las décadas venideras podríamos vivir en los sueños de una inteligencia ajena.
para manipular a los humanos no es necesario conectar físicamente su cerebro a ordenadores. Durante miles de años, profetas, poetas y políticos han empleado el lenguaje para manipular y remodelar la sociedad.
La IA no está progresando hacia una inteligencia de nivel humano. Evoluciona hacia un tipo de inteligencia muy diferente.
Los periódicos, los canales de televisión y los cines locales pierden clientes, y los ingresos de los gigantes tecnológicos se incrementan.
En palabras del economista Marko Köthenbürger, «la definición de “nexo” basada en una presencia física debe revisarse para incluir la idea de una presencia digital en un
Se supone que el dinero es una medida universal de valor, en lugar de ser un símbolo empleado solo en algunos escenarios. Pero, si cada vez más cosas se valoran en términos de información, al tiempo que son «gratuitas» en términos de dinero, llegará un momento en que resulte engañoso evaluar la riqueza de los individuos y de las empresas de acuerdo con la cantidad de dólares o de pesos que poseen.
el sistema de puntuación social es, en el fondo, un nuevo tipo de dinero, uno basado en la información. ¿Debería todo Estado imitar el ejemplo chino y acuñar sus propias puntuaciones sociales?
La gente que dirige la revolución de la información conoce mucho mejor la tecnología subyacente que quienes se supone que deben regularla.
Naturalmente, no todo ciudadano necesita un doctorado en Ciencias de la Computación, pero para conservar el control de nuestro futuro necesitamos conocer el potencial político de los ordenadores.
La política implica un sutil equilibrio entre la verdad y el orden.
La red informática se ha convertido en el nexo de la mayoría de las actividades humanas.
como Adán y Eva en el paraíso, no podemos escondernos del ojo que vigila desde las nubes.
cuando una IA considera que alguien es un terrorista podría estar reflejando prejuicios ideológicos.
Así como los peces viven en el agua, los humanos vivimos en una burocracia digital, inhalando y exhalando datos constantemente. Cada acción que llevamos a cabo deja un rastro de datos que se recolecta y analiza para identificar pautas.
el sistema de puntuación social podría convertirse en un sistema de control totalitario.
Puesto que son entidades inorgánicas, es probable que adopten estrategias que nunca adoptaría un humano y que, por lo tanto, no estamos preparados para prever e impedir.
Los ejecutivos e ingenieros que se apresuran a desarrollar la IA cometen un enorme error si piensan que existe una manera racional de decirle a la IA cuál ha de ser su objetivo principal. Deben aprender de las amargas experiencias por las que pasaron generaciones de filósofos que intentaron definir objetivos principales y fracasaron.
Los deontólogos que buscan reglas racionales universales suelen terminar cautivos de mitos locales.
cáncer.[44] ¿Acaso puede alguien calcular el impacto total de las políticas de confinamiento y determinar si aumentaron o redujeron el sufrimiento en el mundo?
Que un mito religioso nos prometa que en realidad nunca moriremos, porque después de la muerte nuestra alma eterna ascenderá al cielo ¿de verdad nos hace felices o solo nos convierte en ilusorios? ¿Es la muerte la causa principal de nuestra desgracia, o más bien nuestra desgracia nace de nuestros intentos de negar la muerte? Si alguien pierde su fe religiosa y acepta su mortalidad, ¿debe la red informática verlo como una pérdida neta o como una ganancia neta?
la gente práctica que se cree libre de cualquier influencia religiosa suele ser esclava de un creador de mitos.
Los ordenadores podrían ser terriblemente eficientes a la hora de imponer a la gente falsas etiquetas y de asegurarse de que esas etiquetas se mantengan.
Los ordenadores son seres matemáticos carentes tanto de psicología como de mitologías. De modo que, si pudiéramos eliminar por completo a los humanos de la ecuación, los algoritmos podrían decidir cosas sobre la base de la matemática pura, libres de las distorsiones psicológicas y de los prejuicios mitológicos.
el 23 de marzo de 2016, Microsoft lanzó el chatbot de IA Tay y le concedió acceso libre a Twitter. A las pocas horas, Tay empezó a publicar tuits misóginos y antisemitas, como: «Odio a las putas feministas y todas tendrían que morir y arder en el infierno», o «Hitler tenía razón. Odio a los judíos». El veneno aumentó hasta que, horrorizados, los ingenieros de Microsoft retiraron Tay, solo dieciséis horas después de haberlo lanzado.
experiencia.[59] La IA no es un autómata tonto que repite movimientos una y otra vez con independencia de los resultados. Por el contrario, cuenta con mecanismos de autocorrección sólidos que le permiten aprender a partir de sus propias equivocaciones.
Si el algoritmo deduce que George W. Bush es una mujer pero la base de datos dice que es un hombre, no se alcanza el objetivo y el algoritmo aprende de su error.
Al crear e imponernos potentes mitos intercomputacionales, la red informática podría provocar calamidades históricas que superarían con mucho a la caza de brujas de la Europa de principios de la Edad Moderna o a la colectivización de Stalin.
Las civilizaciones nacen del matrimonio entre la burocracia y la mitología. La red basada en ordenadores es un nuevo tipo de burocracia mucho más potente e incansable que cualquier burocracia de base humana que hayamos conocido.
El hecho de que el Gobierno —o una compañía— sepa más de mí que yo mismo y de que microgestione todo lo que hago y pienso le puede proporcionar un control totalitario sobre la sociedad.
Aunque el ADN de un individuo se mantenga inalterable a lo largo de la vida, factores epigenéticos y ambientales pueden producir cambios importantes en la forma en que se expresan los propios genes.
debemos dotar a las generaciones más jóvenes de habilidades que puedan ser relevantes para el mercado laboral de 2050.
Cuando buscamos una relación, queremos conectar con una entidad consciente, pero, si ya hemos establecido una relación con una entidad, tendemos a asumir que esta es consciente.
si no queremos ser irrelevantes, tendremos que adquirir nuevas capacidades y reinventarnos no solo una vez, sino muchas.
La democracia de Estados Unidos posterior a la época de Roosevelt fue muy diferente de la anterior —al proporcionar una red de seguridad social mucho más sólida para los ciudadanos—, pero evitó cualquier tipo de revolución radical.
Para una democracia, la incomprensión es letal. Si ciudadanos, legisladores, periodistas y jueces no pueden entender cómo funciona el sistema burocrático del Estado, no podrán supervisarlo y perderán la fe en él.
leemos.[49] Un estudio más general realizado en 2022 por la agencia de inteligencia digital Similarweb señalaba que, con toda probabilidad, el 5 por ciento de los usuarios de Twitter eran bots, lo que no les impedía generar «entre el 20,8 y el 29,2 por ciento del contenido total publicado en
Dennett sugiere que los gobiernos tendrían que ilegalizar a los humanos falsos con la misma decisión con que ilegalizaron el dinero falso.
en 2023 Google controlaba el 91,5 por ciento del mercado global de búsquedas.
La idea de concentrar toda la información y el poder en un mismo punto, que fue el talón de Aquiles de los regímenes totalitarios del siglo XX, podría convertirse en una ventaja decisiva en la era de la IA.
En la actualidad, el mundo está dividido en unos doscientos estados nación, la mayoría de los cuales alcanzaron su independencia después de 1945.
el 30 de septiembre de 2012, una red neural convolucional llamada AlexNet ganó el reto ImageNet de reconocimiento visual a gran escala.
Generator.[6] La tecnología desarrollada para reconocer lindos gatitos no tardó en desarrollar propósitos más depredadores. Por ejemplo, Israel se basó en ella para crear las aplicaciones Red Wolf, Blue Wolf y Wolf Pack,[*] usadas por sus soldados para el reconocimiento facial de civiles palestinos en los Territorios
En una nueva economía imperial de la información, cualquier lugar del mundo ofrecerá datos en bruto que, después de recolectarse, fluirán hacia el núcleo imperial. Allí se desarrollará la tecnología más avanzada, capaz de producir algoritmos invencibles que permitan identificar gatos, predecir las tendencias de la moda, conducir vehículos autónomos y diagnosticar enfermedades.
Durante la Revolución Industrial, las máquinas adquirieron una importancia mayor que la tierra. Fábricas, minas, líneas de ferrocarril y centrales eléctricas pasaron a ser los activos más valiosos.
con su propio
que el cuerpo no importaba en absoluto. Lo
una sociedad que resta importancia a los cuerpos biológicos y se centra en las identidades digitales siempre podría aspirar a crear un Reino de Dios inmersivo en el ciberespacio, mientras hace caso omiso al destino de cosas materiales, como los bosques o los conductos de aguas residuales y las pluvisilvas.
La teoría de juegos nos enseña que la situación más peligrosa en una carrera armamentista corresponde al momento en que uno de los bandos siente que goza de ventaja pero que esta se está desvaneciendo.
La cooperación global y el patriotismo no son mutuamente excluyentes. Porque el patriotismo no va de xenofobia, sino de amar a nuestros compatriotas. Y hay muchas situaciones en las que, con el fin de cuidar de nuestros compatriotas, necesitamos cooperar con extranjeros.
