More on this book
Community
Kindle Notes & Highlights
Started reading
April 6, 2024
«Tengo unas cuantas observaciones sobre la investigación de la IA en general y sobre lo que se hace aquí en Google en particular —su voz se llenó de pasión—. Estoy aterrorizado. Aterrorizado».
«Me parece muy aterrador, muy preocupante, muy triste, y me parece terrible, horroroso, extraño, desconcertante, que la gente se precipite a ciegas y delirantemente a crear estas cosas».
Lo que le aterraba era que la inteligencia, la creatividad, las emociones e incluso la propia conciencia fueran demasiado fáciles de crear, que los aspectos de la humanidad que más valiosos le parecían acabaran siendo una mera «serie de trucos», que un conjunto superficial de algoritmos de fuerza bruta pudiera explicar el espíritu humano.
inteligencia, la creatividad, las emociones e incluso la propia conciencia fueran demasiado fáciles de crear, que los aspectos de la humanidad que más valiosos le parecían acabaran siendo una mera «serie de trucos», que un conjunto superficial de algoritmos de fuerza bruta pudiera explicar el espíritu humano.
Hofstadter tiene la firme convicción de que la mente, con todas sus características, surge en su totalidad del sustrato físico del cerebro y el resto del cuerpo, además de a través de la interacción del cuerpo con el mundo físico.
La mayoría de los expertos en inteligencia artificial atribuyen la fundación oficial de esta materia a un pequeño seminario celebrado en 1956 en el Dartmouth College y organizado por un joven matemático llamado John McCarthy.
Marvin Minsky acuñó la expresión palabra maleta[24] para calificar términos del tipo de inteligencia y sus muchos parientes, como pensamiento, cognición, conciencia y emoción. Cada uno de ellos está lleno como una maleta de un batiburrillo de significados diferentes. La inteligencia artificial ha heredado este problema, puesto que tiene distintos significados en diferentes contextos.
consiguiente, la inteligencia puede ser binaria (algo es o no es inteligente), estar en un continuo (una cosa es más inteligente que otra) o ser multidimensional (alguien puede tener mucha inteligencia verbal pero escasa inteligencia emocional).
Cuando se pregunta a quienes trabajan en IA si sus motivaciones son prácticas o científicas, muchos contestan en broma que depende de quién los financie.
«una rama de la informática que estudia las propiedades de la inteligencia a base de sintetizar inteligencia».[25]
«La falta de una definición precisa y universalmente aceptada de la IA probablemente ha ayudado a que el campo crezca, se expanda y avance cada vez a más velocidad».[26]
Algunos —sobre todo los matemáticos— propugnaron la lógica matemática y el razonamiento deductivo como lenguaje del pensamiento racional. Otros defendían los métodos inductivos, en los que los programas extraen estadísticas de los datos y utilizan la probabilidad para abordar la incertidumbre. Y otros eran firmes partidarios de inspirarse en la biología y la psicología para crear programas que emularan el cerebro.
el perceptrón fue un hito importante en la IA y fue el influyente bisabuelo de la herramienta más eficaz de la IA moderna, las redes neuronales profundas.
Minsky, «en general, somos menos conscientes de lo que nuestras mentes hacen mejor».[40]
Como dijo el filósofo Andy Clark, lo natural en los sistemas subsimbólicos es ser «malos para la lógica pero buenos para el frisbee».[47]
(Un precioso toque de ironía es que durante las partidas del Campeonato Mundial de Ajedrez de 2006, se volvieron las tornas y un jugador acusó al otro de hacer trampas con ayuda de un programa de ajedrez).[51]
es decir, cuando no solo haya escrito esa obra sino que sepa que la ha escrito.
Como dijo en términos más contundentes el informático Scott Aaronson, la propuesta de Turing es «un alegato contra el chovinismo de la carne».[64]
«La electrónica contemporánea ya es más de diez millones de veces más rápida que el procesamiento electroquímico de la información que lleva a cabo el sistema nervioso humano.
sin el equivalente de un cuerpo humano, con todo lo que implica, una máquina nunca podrá aprender todo lo necesario para superar la estricta prueba de Turing suya y de Kurzweil.
Resulta que la visión —tanto mirar como ver—es una de las cosas más difíciles de todas las «fáciles».
Es importante señalar que en la corteza visual también se produce un flujo de información descendente o hacia atrás (de las capas superiores a las inferiores); de hecho, hay aproximadamente diez veces más conexiones descendentes que ascendentes.
Según Amazon, su servicio Mechanical Turk es «un mercado para trabajos que requieren inteligencia humana». El servicio pone en contacto a los «solicitantes» —personas que necesitan llevar a cabo una tarea difícil para los ordenadores— con los «trabajadores»
Los investigadores en IA siguen recurriendo mucho al servicio para crear conjuntos de datos; en la actualidad, las propuestas de becas académicas en IA suelen incluir una partida para «trabajadores de Mechanical Turk».
En el aprendizaje automático existe una regla sagrada: «No entrenar con los datos de prueba».
En realidad, el éxito reciente del aprendizaje profundo se debe, más que a los nuevos avances en IA, a la posibilidad de disponer de enormes cantidades de datos (¡gracias, internet!) y dispositivos informáticos muy rápidos.
Como vimos en el capítulo anterior, para que una ConvNet aprenda a hacer una tarea es necesario un enorme esfuerzo humano que permita recopilar, organizar y etiquetar los datos, además de diseñar todos los aspectos de su arquitectura.
«Ahora mismo, lo que estamos haciendo no es una ciencia, sino una especie de alquimia».[129] Y estos «encantadores de redes»
En otras palabras, para la IA general, casi todo el aprendizaje tendrá que ser no supervisado, pero nadie ha dado todavía con el tipo de algoritmos necesarios para hacer ese aprendizaje no supervisado con buenos resultados.
los rostros contenidos en un conjunto de datos muy utilizado para entrenar sistemas de reconocimiento facial son en un 77,5 por ciento de hombres y en un 83,5 por ciento de blancos. Esto no es nada raro, porque las imágenes se descargaron a partir de búsquedas en internet, donde existe un sesgo a favor de personas famosas o poderosas, que son predominantemente blancas y masculinas.
Nadie tiene una «teoría de la mente» similar en relación con sistemas de IA como las redes profundas, por lo que es más difícil confiar en ellos.
demostraron que no es difícil alterar una imagen de rayos X o de microscopio de forma imperceptible para los humanos pero que hace que una red cambie su dictamen de, por ejemplo, un 99 por ciento de seguridad en que la imagen no muestra cáncer a un 99 por ciento de seguridad en que sí hay cáncer.[150]
ConvNet que se utilizan hoy en día en las aplicaciones de visión por ordenador suelen ser totalmente de «prealimentación», mientras que el sistema visual humano tiene muchas más conexiones de «retroalimentación» (es decir, en dirección inversa) que de «prealimentación».
¿El aprendizaje profundo tiene «verdadera comprensión» o es más bien un Hans el Listo informático que responde a señales superficiales encerradas en los datos? Esta duda es hoy objeto de acalorados debates en el mundo de la IA, con el agravante de que los investigadores de la IA no están necesariamente de acuerdo sobre la definición de «verdadera comprensión».
El investigador de IA Andrew Ng ha proclamado con optimismo: «La IA es la nueva electricidad».
son cuestiones no solo técnicas, sino también sociales y políticas. Por tanto, es esencial que en el debate intervengan personas con diferentes perspectivas y procedencias. Dejar la regulación en manos de los profesionales de la IA sería tan imprudente como dejarla exclusivamente en manos de los organismos gubernamentales.
Joshua Greene señaló: «Antes de poder introducir nuestros valores en las máquinas, debemos aprender a hacer que nuestros valores sean claros y coherentes».[174]
En mi opinión, los avances en la capacidad de dotar a los ordenadores de inteligencia moral no pueden separarse de los avances en otros tipos de inteligencia: el objetivo verdaderamente difícil es crear máquinas capaces de comprender verdaderamente las situaciones a las que se enfrentan.
«Puede que Deep Blue venciera a Kasparov, pero no lo disfrutó»).
John McCarthy: «En cuanto funciona, todo el mundo deja de llamarlo IA»?[199]
AlphaGo es la perfecta representación del síndrome del sabio.
El reconocimiento automático del habla —la tarea de convertir el lenguaje hablado en texto sobre la marcha— fue el primer gran éxito del aprendizaje profundo en PLN, y me atrevería a decir que es el mayor éxito de la IA hasta hoy en cualquier ámbito.
Hay una famosa regla general en cualquier proyecto complejo de ingeniería: el primer 90 por ciento del proyecto ocupa el 10 por ciento del tiempo, y el último 10 por ciento ocupa el 90 por ciento del tiempo.
ese último 10 por ciento exigirá comprender realmente lo que está diciendo la persona que habla? Me inclino por esto último, pero no sería la primera vez que me equivoco.
¿Cuál es la mejor manera de codificar las palabras de entrada como números? La respuesta a esta pregunta ha permitido uno de los avances más importantes de la última década en el procesamiento del lenguaje natural.
Los lingüistas calculan que un lector necesita entre diez mil y treinta mil palabras para abordar la mayoría de los textos en inglés,
(En el PLN moderno, no hay nada como un montón de «macrodatos»).
Hablando de analogías, aquí hay una: a una persona con un martillo, todo le parece un clavo; a un investigador de IA con una red neuronal, todo le parece un vector.
Una última nota sobre los vectores de palabras. Varios grupos han demostrado que estos vectores de palabras, como quizá era previsible, captan los sesgos intrínsecos de los datos lingüísticos que los generan.[247] Por ejemplo, en este problema de analogía: «Hombre es a mujer lo que programador informático es a ______». Si se resuelve utilizando los vectores de palabras que proporciona Google, la respuesta es «ama de casa». El enunciado inverso, «Mujer es a hombre lo que programador informático es a ______», da «ingeniero mecánico». Y aquí hay otro: «Hombre es a genio lo que mujer es a ______».
...more
pero mi experiencia general es que la calidad de la traducción de, por ejemplo, Google Translate disminuye de forma considerable cuando se le dan párrafos enteros en lugar de frases sueltas.
