Inteligencia artificial: Guía para seres pensantes

by Melanie Mitchell

Microsoft llegó a hacer una demostración en línea de su sistema, llamado CaptionBot. El sitio web de CaptionBot proclama: «Puedo entender el contenido de cualquier fotografía e intentaré describirla tan bien como cualquier ser humano».[278]

«Cuando la IA no puede determinar cuál es el sujeto de una frase, cuesta creer que vaya a adueñarse del mundo».[305]

incluso los conceptos más abstractos los comprendemos mediante la simulación mental de situaciones concretas en las que se plasman esos conceptos. Según él, «el procesamiento conceptual utiliza reconstrucciones de estados sensoriomotores —simulaciones— que representan categorías»,[317]

Por ejemplo, Lakoff y Johnson señalan que hablamos del concepto abstracto de tiempo con términos que se aplican al concepto más concreto de dinero. «Gastamos» o «ahorramos» tiempo. A menudo «no podemos desperdiciar el tiempo». A veces el tiempo que gastamos «vale la pena» y hemos «utilizado el tiempo de forma provechosa». Quizá conocemos a alguien que tiene «los días contados».

Como decían Hofstadter y su coautor, el psicólogo Emmanuel Sander: «Sin conceptos no puede haber pensamiento, y sin analogías no puede haber conceptos».[327]

muchas personas han señalado que los términos comprensión y significado (por no hablar de conciencia) no son más que términos mal definidos que utilizamos como referentes provisionales, porque todavía no disponemos del lenguaje ni de la teoría que necesitamos para hablar de lo que verdaderamente ocurre en el cerebro.

Pero prácticamente todos los investigadores en IA están de acuerdo en que el conocimiento básico «de sentido común» y la capacidad de abstracción y analogía sofisticadas están entre los eslabones que faltan para que la IA siga avanzando.

¿Cuántas aserciones se necesitan para capturar el conocimiento de sentido común de los humanos? En una conferencia pronunciada en 2015, Lenat dijo que Cyc tenía en ese momento alrededor de quince millones de aserciones, y calculó que «probablemente tenemos en torno al 5 por ciento de lo que a la hora de la verdad vamos a necesitar».[332]

Si el conocimiento de sentido común es el conocimiento que todos los seres humanos tienen pero que no está escrito en ninguna parte, entonces gran parte de ese conocimiento es subconsciente; ni siquiera sabemos que lo tenemos.

Pero la abstracción y la construcción de analogías no son habilidades humanas que puedan ser capturadas por el inmenso conjunto de datos de Cyc ni, en mi opinión, por inferencia lógica en general.

En palabras del científico cognitivo Robert French, la abstracción y la analogía consisten en percibir «la sutileza de la igualdad».[343]

Un aspecto esencial de la inteligencia humana —del que no se habla mucho en la IA hoy en día— es su capacidad de percibir y reflexionar sobre el propio pensamiento.

La era moderna de la inteligencia artificial está dominada por el aprendizaje profundo, con su triunvirato de redes neuronales profundas, macrodatos y ordenadores ultrarrápidos.

Una conclusión aparentemente ineludible para mí es que puede que […] necesitemos la corporalidad, y que la única manera de construir ordenadores que puedan interpretar escenas como nosotros es dejar que tengan todos los años de experiencia (estructurada, temporalmente coherente) que tenemos, la capacidad de interactuar con el mundo y una mágica arquitectura de aprendizaje activo e inferencia que casi no puedo ni imaginar cuando pienso en retrospectiva sobre lo que debería ser capaz de hacer.

un pequeño segmento de los profesionales de la IA ha defendido sistemáticamente la llamada hipótesis de la corporeidad: la premisa de que una máquina no puede alcanzar un nivel de inteligencia humano sin tener algún tipo de cuerpo que interactúe con el mundo.[354]

Creo que, en principio, es posible que un ordenador sea creativo. Pero también creo que ser creativo implica ser capaz de comprender y juzgar lo que uno ha creado. Si tomamos la creatividad en este sentido, no se puede decir que ningún ordenador actual sea creativo.

Un miembro del Comité de Investigación de Defensa Nacional […] calculó que una unidad de “kilochica” de energía equivalía aproximadamente a mil horas de trabajo de computación».[368]

«La inteligencia humana es un fenómeno maravilloso, sutil y mal conocido. No hay peligro de que se duplique a corto plazo».[370]

Más probable me parece que estas supuestas limitaciones de los humanos sean una parte fundamental de nuestra inteligencia general. Es más, las limitaciones cognitivas que nos impone el hecho de tener un cuerpo que se mueve en el mundo, las emociones y los prejuicios «irracionales» que evolucionaron para permitirnos funcionar como grupo social y todas las demás cualidades consideradas a veces «deficiencias» cognitivas, son precisamente lo que nos permite ser inteligentes en sentido general y no sabios en lo concreto.

El mensaje que más quiero transmitir con este libro es que los humanos tendemos a sobrevalorar los avances de la IA y a subestimar la complejidad de nuestra propia inteligencia.

Si la IA general se hace algún día realidad, estoy segura de que su complejidad será equiparable a la de nuestro cerebro.

Creo que el aspecto más preocupante de los sistemas de IA a corto plazo es que les demos demasiada autonomía sin ser totalmente conscientes de sus limitaciones y vulnerabilidades.

Tengo mucho más miedo de la estupidez de las máquinas que de su inteligencia.

O, como dijo el investigador de IA Pedro Domingos en una frase memorable: «A la gente le preocupa que los ordenadores se vuelvan demasiado inteligentes y se apoderen del mundo, pero el verdadero problema es que son demasiado estúpidos y ya se han apoderado del mundo».[375]