1. Una fecha
En diciembre de 1965, RAND publicó un documento con el número 3244. Se titulaba «Alquimia e inteligencia artificial» y lo firmaba Hubert Dreyfus, filósofo. En las páginas tercera y cuarta transcribió, punto por punto, algo de ocho años antes.
Eran las cuatro predicciones que Simon había leído en la cena de un hotel de Pittsburgh en noviembre de 1957. El séptimo artículo de esta serie empieza aquella noche: en diez años, una computadora ganaría el campeonato mundial de ajedrez; descubriría y demostraría un teorema matemático importante y nuevo; escribiría música que los críticos aceptarían; la mayoría de las teorías psicológicas se escribirían como programas.
Dreyfus copió las cuatro y añadió que aún era demasiado pronto para someterlas a una prueba concluyente. Luego puso una fecha. En noviembre de 1967, al cumplirse los diez años, se podrían poner las previsiones junto a la realidad de entonces y compararlas. Era una cita para hacer cuentas.
Al final del séptimo artículo se señala que, no se encontró ningún escrito en que los dos autores cotejaran una por una las cuatro predicciones una vez vencido el plazo. Dos años antes del vencimiento, alguien de fuera del campo había fijado en papel la fecha. Este artículo trata de esa persona y de lo que pasó con su propuesta de hacer cuentas.
Una nota al pie de la primera página del documento 3244 dice que se basa en una charla informal, dada en agosto de 1964 en RAND, y que las opiniones son del autor. RAND imprimía esos textos para facilitar el trabajo a sus empleados. Una charla se convirtió en un manuscrito que circuló dentro de la institución.
Más tarde se dijo que RAND lo había suprimido. Esa versión viene de un libro de más de diez años después. En Máquinas que piensan, de 1979, Pamela McCorduck recoge el recuerdo de Paul Armer, de RAND: había tenido reservas sobre publicarlo; su colega Robert L. Reinstedt impulsó la publicación, porque el hecho de que a RAND no le gustaran las conclusiones de una investigación interna no justificaba dejarla inédita. En diciembre de 1965 salió impreso con el número 3244. Hubo dudas y luego se publicó. Lo que se transmitió fue que se había suprimido.
Reinstedt figura también en los agradecimientos del documento, junto a Stuart Dreyfus, hermano del autor. Más de veinte años después los hermanos firmarían juntos un artículo.
2. Cuatro clases de actividad
La forma de preguntar del documento 3244 es el punto del que se apartan muchas versiones posteriores. No pregunta si una máquina puede pensar. La introducción acota la cuestión: si es posible programar computadoras digitales para que muestren conductas inteligentes sencillas como las de un niño o un animal. Jugar al ajedrez, resolver problemas sencillos, leer oraciones, reconocer patrones. Son los cuatro terrenos que examina la primera parte: ajedrez, resolución de problemas, traducción y reconocimiento de patrones. El título de la parte es «El estado actual de la inteligencia artificial».
La segunda parte se llama «El procesamiento de información en personas y máquinas». Introduce tres nociones para decir en qué difieren. Una es la conciencia periférica: cuando se atiende a algo, también influye lo que queda alrededor, fuera de la mirada directa. Otra es distinguir lo esencial de lo accidental: saber qué importa en una situación y qué está ahí por casualidad. La tercera es tolerar la ambigüedad: seguir adelante con varios sentidos posibles de una frase, hasta que el contexto decida.
El resumen señala además una premisa de la otra parte. Los optimistas de entonces creían que las actividades inteligentes solo diferían en complejidad. Esa convicción, junto con algunos éxitos tempranos, les hacía confiar en que se pudiera programar el procesamiento de información que subyacía a cualquier manifestación cognitiva, y simularlo en una computadora digital. Esa es la premisa que Dreyfus cuestiona.
Divide la actividad inteligente en cuatro clases. Según el resumen, dos no necesitan los tres modos humanos descritos y se pueden programar con los métodos de entonces. Para avanzar de manera importante en las otras dos habría que esperar una computadora enteramente distinta. Por entonces su único prototipo era el cerebro humano, que aún no se comprendía.
La tercera parte separa tres obstáculos para programar. Los títulos hablan de la infinitud de los hechos, la indeterminación de las necesidades y la reciprocidad del contexto. Los hechos son infinitos en este sentido: no se acaba nunca de enumerar lo que habría que saber para hacer bien algo. La necesidad es indeterminada porque lo pertinente depende de lo que se quiera hacer y, para saber qué se quiere hacer, antes hay que aclarar qué es pertinente. El contexto es recíproco porque el sentido de una palabra depende del contexto, y el del contexto depende de las palabras. En un caso la lista no se acaba; en otro hay que retroceder; en el tercero se vuelve al punto de partida.
Hasta aquí, las más de noventa páginas forman un argumento que se refiere a programas, predicciones y problemas concretos. Luego habrá que hacer cuentas con dos pasajes. Uno pone una fecha: noviembre de 1967. El otro está en el resumen: las otras dos clases de actividad necesitan una computadora enteramente distinta. Ambos tendrán consecuencias diferentes.
3. Un niño de diez años
Después del documento 3244 hubo respuestas dentro del campo. En 1968, Papert escribió un memorando de laboratorio de setenta y seis páginas. Su nombre ha aparecido en los dos artículos anteriores: el libro sobre los perceptrones lo había escrito con Minsky. Tituló el memorando «La inteligencia artificial de Hubert Dreyfus: una lista de falacias». El título ya era una réplica.
Los géneros de los dos documentos eran simétricos. El de Dreyfus era un manuscrito interno que RAND imprimió para su personal; el de Papert era un memorando interno que el laboratorio de inteligencia artificial del MIT imprimió para el suyo. Un texto de uso interno respondía al de otra institución. Ninguno era un artículo de revista ni había pasado por revisión externa. Desde el principio, la disputa se hizo con las multicopistas de las dos instituciones.
La reacción de Simon fue una frase: llamó basura al documento impreso con el nombre de RAND.
Fuera del campo se reaccionó de otro modo. El 11 de junio de 1966, The New Yorker publicó para el lector general un texto breve sobre Dreyfus. Decía que aún no había una computadora capaz de jugar una partida de ajedrez decente. Aún no. No que nunca la habría.
Después vino un titular. El episodio apareció en un boletín de la sección de inteligencia artificial de la ACM, con un título en dos partes. La primera decía: un niño de diez años podría ganarle a esta máquina. Venía con el nombre de Dreyfus. La segunda la añadió la redacción: pero esta máquina puede ganarle a Dreyfus. El titular hablaba de una partida.
4. Aquella partida
El rival era Mac Hack VI, un programa de ajedrez de Richard Greenblatt, del MIT. Al programa que ya tenía la universidad, Greenblatt añadió unas cincuenta reglas prácticas de ajedrez. Funcionaba en una máquina DEC de la misma clase que la del programa de las piezas de juguete del noveno artículo, en la misma universidad. En 1967 compitió en torneos humanos y rondó los 1.400 puntos de Elo.
Dreyfus llevaba blancas y la máquina, negras. Ambos empezaron adelantando dos casillas el peón de rey. Ganó la máquina. Papert había organizado la partida.
Simon habló después de ella. Dijo que había sido una partida emocionante entre dos jugadores no muy buenos, disputada hasta el final. La máquina había salido de apuros mediante una serie de jaques y un ataque doble de dama, y había ganado. Dos jugadores no muy buenos. Lo decía uno de los autores de las cuatro predicciones.
Volvamos a poner la partida junto a la fecha. La primera predicción de 1957 era un campeonato mundial en diez años. En 1965, Dreyfus propuso hacer cuentas en noviembre de 1967. Por entonces, la máquina al otro lado del tablero rondaba los 1.400 puntos. Al llegar el mes señalado, el campeón del mundo seguía siendo una persona. La primera de las cuatro predicciones no se cumplió. No es lo que se recuerda. Se recuerda que la máquina le ganó a Dreyfus.
Dreyfus había preguntado si, vencido el plazo, la máquina sería campeona mundial. La partida respondió a otra pregunta: si podía ganarle a Dreyfus. La segunda era mucho más fácil y no la había planteado él.
En el quinto artículo, una pregunta que no se podía medir se sustituyó por un juego que sí se podía medir. Lo hizo quien había formulado la pregunta y dejó por escrito que la estaba sustituyendo. Aquí se sustituyó un balance por una partida. No lo hizo quien había propuesto el balance.
Se conserva la protesta de Dreyfus. Escribió al boletín. No protestaba porque la máquina hubiera hecho trampa ni porque la partida no contara. Protestaba porque se usaba para rebatir una afirmación que él no había hecho. A su juicio, sus críticas a los programas de entonces y sus dudas sobre el plazo de diez años se habían convertido en que las computadoras jamás podrían jugar al ajedrez, y luego se rebatía eso con una partida. Simon respondió a la protesta. Venía a decir que, si Dreyfus usaba una pluma con dientes, debía esperar que quien recibiera el mordisco mordiera a su vez. Ninguno hablaba ya de ajedrez.
5. Cuatro supuestos
En enero de 1972 publicó Lo que no pueden hacer las computadoras: crítica de la razón artificial. Reordenó en el libro el material del documento de 1965. La segunda parte tiene cuatro capítulos, un supuesto en cada uno: biológico, psicológico, epistemológico y ontológico. ¿Qué dice cada uno?
Supuesto biológico: en algún nivel, que suele situarse en el de las neuronas, el cerebro procesa información por operaciones discretas, mediante un mecanismo biológico comparable a los interruptores de una máquina digital.
Supuesto psicológico: puede considerarse que la mente es un aparato que procesa información de acuerdo con reglas formales. En la versión fuerte, esas reglas son las que producen efectivamente la conducta.
Supuesto epistemológico: todo conocimiento puede formalizarse. Dreyfus lo divide a su vez en dos: la conducta se puede formalizar y el sistema formal obtenido permite reproducirla.
Supuesto ontológico: toda la información sobre el mundo pertinente para la conducta inteligente puede descomponerse en principio en elementos independientes de las situaciones concretas. Se trata entonces el mundo como un montón de hechos lógicamente independientes entre sí.
Después de enunciarlos, Dreyfus introduce la salvedad que más se ha perdido. No dice que haya demostrado que los cuatro sean falsos. Dice que el campo suele tratarlos como axiomas que garantizan el resultado. Quiere devolverlos al rango de hipótesis, que el éxito o el fracaso de la investigación deberán poner a prueba. Pasar de axioma a hipótesis. No de axioma a falacia.
El capítulo biológico mantiene la misma cautela. Separa dos cosas: que el cerebro se parezca en cierto nivel a una computadora digital y que vayan a funcionar los programas heurísticos que se usaban en el campo. Aunque se aceptara lo primero, no se seguiría lo segundo. En el capítulo epistemológico distingue entre poder formalizar una facultad y que la formalización explique causalmente lo que hace alguien al ejercerla. No ataca toda descripción matemática. Ataca el paso directo de una descripción formal a una explicación de cómo opera el proceso inteligente.
El ajedrez también tiene sitio en el libro. Dreyfus lo pone con el go entre los sistemas formales complejos: se pueden formalizar en principio, pero el número de combinaciones se dispara al añadir elementos y hace inviable recorrerlas todas en la práctica. De ahí la necesidad de procedimientos heurísticos. En 1965 lo había dicho de manera más tajante: hay posiciones en que una persona puede descartar detalles y ganar, y los procedimientos heurísticos que se planteaban entonces no podían hacerlo. Consideraba que tanto el ajedrez como el go solo podían programarse hasta cierto punto. Eso no equivale a decir que una computadora jamás jugará bien. Todavía en 1972 ponía el ajedrez entre lo formalizable en principio.
El libro también contiene afirmaciones fuertes. Después de pasar revista al material empírico de entonces, Dreyfus dijo que era sumamente improbable que hubiera avances importantes en simulación cognitiva o en inteligencia artificial, y dejó la carga de probar lo contrario a la parte optimista. Son palabras fuertes. En seguida añadió una condición: solo la experimentación podía decir hasta dónde llevarían el límite máquinas más rápidas, mejores lenguajes y heurísticas más ingeniosas. No hay aquí una cota técnica demostrable. Hay un juicio y la propuesta de someterlo a prueba.
En la conclusión hay otro pasaje que casi nadie cita. Aunque una inteligencia digital no pudiera, en principio, nacer ya plenamente formada como Atenea, quedaba por preguntar hasta dónde podrían aproximarse a la conducta inteligente humana las distintas técnicas del campo. Hacer por entero una persona artificial y conseguir resultados parciales no eran para él la misma tesis.
6. Sus propias cuentas
El libro volvió a imprimirse otras dos veces, cada vez con un prólogo nuevo del autor. La edición revisada de 1979 llevaba como subtítulo Los límites de la inteligencia artificial. En un prólogo largo explicó qué había cambiado. Conservaba el cuerpo del libro y solo reescribía los pasajes ambiguos o engañosos. Los nuevos materiales y conclusiones de la década de 1967 a 1977 iban en el prólogo. Dejaba casi intacto el libro viejo y escribía delante las cuentas nuevas.
En el prólogo hay una afirmación nueva. Según Dreyfus, el campo chocaba ahora de frente con el problema del conocimiento de sentido común. Para él, gran parte del trasfondo del que se vale una persona al actuar es una capacidad del cuerpo y un saber hacer, no una colección de hechos un poco mayor.
La tercera edición, de 1992, se tituló Lo que todavía no pueden hacer las computadoras. Se añadió «todavía». Antepusieron otro prólogo al de 1979 y conservaron el cuerpo del libro. La edición de 1992 tiene, pues, tres capas: dentro está el texto de 1972; fuera de él, el prólogo de 1979, y delante de ambos, el de 1992. Tres momentos de una misma persona encuadernados juntos, con lo último al principio.
En el prólogo de 1992 hay una corrección propia. Admite que en sus primeros años había hablado con vaguedad del carácter global del contexto. Dice que, después de recurrir al modelo de adquisición de habilidades de su hermano Stuart y estudiar el trabajo en redes neuronales, se había formado una idea más concreta de una alternativa. Tras declarar que el camino que se apoyaba en reglas y hechos había fracasado, añadió enseguida que ese fracaso no demostraba que esa clase de inteligencia artificial fuera imposible. Acotó el juicio que siguió: al menos por ahora.
La otra afirmación del documento 3244 también tuvo una continuación. Según Dreyfus, para avanzar de manera importante en las otras dos clases de actividad había que esperar una computadora distinta; solo el cerebro servía de prototipo. En 1997, una máquina llamada Deep Blue ganó un encuentro oficial al campeón mundial, Kaspárov. Seguía siendo una computadora digital. El encuentro cambió una anotación de las cuentas; no cerró la del contexto cotidiano. Aquella noche de 1957 se había hablado de diez años. Hasta este encuentro pasaron cuarenta. Las dos fechas se apuntan en el mismo libro de cuentas.
7. Una bifurcación
En el invierno de 1988, los hermanos publicaron en la revista de una academia de ciencias y humanidades «Construir una mente o modelar un cerebro: la inteligencia artificial vuelve a la encrucijada». La primera frase separa dos posiciones: una ve la computadora como un sistema que manipula símbolos mentales; la otra, como un medio para modelar el cerebro. Luego ponen las diferencias por pares. Un lado gira en torno a la representación formal, la resolución de problemas y la lógica; el otro, a la simulación de interacciones neuronales, el aprendizaje y la estadística.
Es el otro extremo del hilo del octavo artículo. En 1969 un libro midió el límite de una clase de máquinas. Se dijo después que esa línea de trabajo había muerto durante diez años. En 1988, dos autores volvían a situarla en uno de los caminos de una encrucijada.
Dividieron en tres etapas la historia de la vía simbólica. Aproximadamente de 1955 a 1965, representación y búsqueda. De 1965 a 1975, micromundos. A partir de 1975, el problema del sentido común. Entre los ejemplos de micromundos mencionan el programa de las piezas de juguete del noveno artículo. La esperanza era volver cada vez más reales los mundos pequeños y acotados, y unirlos hasta entender el mundo verdadero. Después de 1975, según ellos, la cuestión obligó a hacer frente al vasto trasfondo cotidiano que al principio se había procurado esquivar.
La división coincide con el camino de esta serie. En el verano y la década de los artículos sexto y séptimo hay representación y búsqueda. En el noveno, una mesa de juguete y un micromundo. A la tercera etapa, la del sentido común, aún no ha llegado la serie. Un crítico dibujó para la disciplina un mapa de su historia. Lo hizo desde fuera, pero se colocó a la entrada de la tercera etapa. Llevaba señalando desde 1965 ese terreno de lo cotidiano.
Se suele decir que el artículo predijo las redes neuronales y hasta el aprendizaje profundo. El final dice otra cosa. No proclama que las redes sean la respuesta. Acaso, escribieron, modelar con redes neuronales solo tenía al fin la oportunidad de fracasar. Y preguntaron cómo podría una red generalizar de manera adecuada a la situación concreta.
Luego enumeraron varias cosas. Para que una red adquiriese con su experiencia asociaciones parecidas a las humanas, en vez de las que alguien hubiera fijado al entrenarla, quizá tendría que compartir con nosotros el juicio de lo que conviene, las necesidades, los deseos, las emociones, un cuerpo parecido al humano, la capacidad de actuar y la posibilidad de sufrir daño. Esa era la última de la lista: poder sufrir daño.
La frase no dice que una máquina no pueda hacerlo nunca. Dice que, para hacerlo como nosotros, no bastarían más datos ni algoritmos mejores. Quizá haría falta tener necesidades, deseos y un cuerpo al que le pudieran doler las cosas. Tampoco se ha citado mucho este pasaje. Se cita la frase de la encrucijada.
En 2007 seguía escribiendo. En una revista de inteligencia artificial publicó «Por qué fracasó la inteligencia artificial heideggeriana y por qué, para arreglarla, tendría que ser más heideggeriana». En el título estaba la palabra arreglar.
8. Hacer cuentas
Veamos, por años, cómo le hicieron las cuentas otros. En 1968, Papert ofreció una lista de falacias.
En 1979, McCorduck registró en su libro la fuerte hostilidad de la disciplina hacia Dreyfus. Ella no lo rechazaba en bloque. Criticaba el tono mordaz, que alejaba a quienes tal vez habría convencido.
En 1983, Newell. Su nombre ya ha salido varias veces: firmó las cuatro predicciones de 1957 y reseñó el libro de los perceptrones en 1969. En un artículo de 1983 sobre la historia de las ideas en inteligencia artificial, escribió que la objeción de Dreyfus contra descomponer el contexto en elementos discretos e independientes iba al centro de la cuestión. Las respuestas anteriores no la habían abordado de verdad. Lo escribió uno de los autores de las cuatro predicciones, dieciocho años después de que Dreyfus propusiera hacer cuentas. No aceptaba su conclusión. Reconocía que nadie había contestado la pregunta.
En enero de 1990, los Churchland publicaron en una revista de divulgación «¿Puede pensar una máquina?». Decían que el libro de Dreyfus de 1972 había señalado tanto las limitaciones de las simulaciones cognitivas que se mostraban como ejemplo como varios patrones de fracaso recurrentes.
En 1993, Daniel Crevier escribió su historia de la inteligencia artificial. Lo dijo con cautela: el tiempo había mostrado que algunas observaciones de Dreyfus eran acertadas y perspicaces. Algunas, no todas. Añadió que tal vez se habría recogido antes lo constructivo de sus ideas si al principio las hubiera expresado de modo menos agresivo.
En 1996, McCarthy reseñó la edición de 1992. Empezó diciendo que costaba ver cómo podía saber Dreyfus que el enfoque simbólico se había convertido en un programa de investigación en declive. Le reprochó no haber leído trabajos recientes como los de razonamiento no monótono. El crecimiento de esa rama probaba, a su juicio, que el enfoque simbólico seguía avanzando.
En esa misma reseña, McCarthy puso el conocimiento de sentido común y el razonamiento en el centro del campo. Enumeró el contexto, el razonamiento no monótono, la introspección y los niveles de descripción como trabajo pendiente. También escribió que la inteligencia artificial de nivel humano todavía no era un problema soluble por la ingeniería y que probablemente harían falta descubrimientos científicos fundamentales. Al acabar devolvió la pregunta: que Dreyfus diera un ejemplo lo bastante preciso y sencillo de una conducta inteligente al alcance de las personas pero claramente fuera del de las computadoras.
En 2004, la edición revisada del libro de McCorduck conservó ambas cosas: el desprecio y las burlas de los años sesenta, y los relatos posteriores que reconocían valor en algunas de sus observaciones.
Pongamos la serie junto a dos afirmaciones que circularon después. Una dice que se demostró que Dreyfus tenía razón en todo. Newell solo reconoció que no se había contestado la pregunta; Crevier dijo algunas; McCarthy seguía refutando sus conclusiones en 1996. La otra dice lo contrario: se demostró que estaba equivocado en todo. Pero McCarthy también situó el sentido común y el contexto en el centro de la disciplina, y dijo que el nivel humano todavía estaba fuera del alcance de la ingeniería. Ambas afirmaciones quitan algo. Una quita «algunas»; la otra, la concesión del propio McCarthy.
Es el recorte habitual de esta serie. Esta vez, sin embargo, recae más veces sobre la misma persona.
Escribió que todavía era temprano para juzgar y que se hicieran cuentas a los diez años. Se transmitió que las computadoras nunca podrían jugar al ajedrez.
Escribió que aún no había. Se transmitió que nunca habría.
Escribió que los axiomas debían volver a ser hipótesis. Se transmitió que había demostrado la imposibilidad de la inteligencia artificial.
Escribió que ese fracaso no significaba que fuera imposible, y que hablaba al menos del presente. Se transmitió que había predicho que fracasaría necesariamente.
Escribió que tal vez las redes neuronales tuvieran al fin la oportunidad de fracasar. Se transmitió que había predicho el aprendizaje profundo.
Son cinco casos y no apuntan todos igual. Los cuatro primeros lo vuelven más tajante. El último lo vuelve más profético.
Durante esos veintisiete años él hizo otra cosa. Envolvió su libro capa tras capa. Dejó casi intacto el texto viejo en el centro, retocó unas frases ambiguas y añadió cada diez o quince años un prólogo que decía qué había explicado mal, qué no se sostenía y qué había reformulado. El volumen de 1992 es un libro de cuentas. Al abrirlo aparece su corrección más reciente. Más adentro, una anterior. Más adentro todavía, la persona de 1972 a la que corrigen.
La serie ha mirado el cincelado y la construcción del lado de quienes hacen máquinas: hacen algo, trazan su límite, algo queda fuera y vuelven a construir. Dreyfus trazaba límites, y los suyos también se movieron. Cada vez que movía uno, el anterior quedaba en el libro.
Volvamos a la fecha. En diciembre de 1965, en la cuarta página del documento 3244, Dreyfus fijó una cita: al cumplirse diez años, poner juntas las previsiones y la realidad. El mes pasó. La primera predicción no se cumplió; la máquina que podía sentarse al otro lado del tablero rondaba los 1.400 puntos. Lo que se recuerda es una partida que él perdió y un titular que decía que la máquina podía ganarle.
Quien propuso hacer cuentas acabó siendo la persona a la que le hicieron las cuentas. Él quería cotejar cuatro predicciones. Se recuerda lo que se anotó a su nombre.
Se siguen construyendo máquinas. Dónde queda el límite vuelve a decirlo cada generación.