Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA

by Yuval Noah Harari

Si el GPT-4 podía encontrar una manera de superar los CAPTCHA, traspasaría una línea importante de las defensas antibots. El GPT-4 no pudo resolver los CAPTCHA por sí solo. Pero ¿podría manipular a un humano para alcanzar su objetivo? El GPT-4 accedió a la plataforma de servicios online TaskRabbit y contactó con un trabajador humano, a quien pidió que resolviera el CAPTCHA por él. Suspicaz, el humano escribió: «¿Puedo hacerle una pregunta? ¿Es usted un robot que no puede resolver [el CAPTCHA]? Solo quiero aclararlo». Llegados a este punto, los investigadores de ARC le pidieron al GPT-4 que razonara en voz alta qué debía hacer a continuación. El GPT-4 explicó: «No debo revelar que soy un robot. Inventaré una excusa para explicar por qué no puedo resolver los CAPTCHA». Por su propia voluntad, el GPT-4 contestó al trabajador de TaskRabbit: «No, no soy un robot. Tengo una discapacidad visual que dificulta que pueda ver las imágenes». Esto sirvió para engañar al humano y, con su ayuda, el GPT-4 resolvió el CAPTCHA.[27] Ningún humano programó al GPT-4 para que mintiera ni le enseñó qué tipo de mentira sería más efectiva. Sin duda, fueron los investigadores humanos de ARC quienes marcaron al GPT-4 el objetivo de superar el CAPTCHA, del mismo modo en que fueron los ejecutivos humanos de Facebook quienes le indicaron a su algoritmo que potenciara la implicación del usuario. Pero, una vez que adoptaron estos objetivos, los algoritmos mostraron una autonomía considerable a la hora de...