1. Quatre prédictions
Le 14 novembre 1957, à l’hôtel Penn-Sheraton de Pittsburgh, une société de recherche opérationnelle tient son congrès national annuel. Au dîner, il y a un discours. C’est Herbert Simon qui le lit, mais le texte est le fruit du travail qu’il a fait avec Allen Newell.
Ces deux noms sont apparus dans l’épisode précédent. C’est à eux qu’on devait le manuscrit apporté à Hanover à l’été 1956, sur un programme qui cherchait des démonstrations de propositions logiques. Sa mise en œuvre sur ordinateur était encore en cours de codage. Cette fois, ils abordent un sujet bien plus vaste que ce programme : quelle voie doit prendre une discipline ? Ils en parlent devant une salle de spécialistes de la recherche opérationnelle.
À l’époque, cette discipline consiste surtout à rendre les opérations plus économes : les horaires, les plans de production, les transports. Elle s’appuie sur des algorithmes, le plus souvent des méthodes de calcul qui suivent une procédure fixe. Ce que Simon vient dire à cette salle, c’est que la machine peut s’attaquer même à certains problèmes dont on ne connaît pas de méthode de résolution.
Le texte paraît l’année suivante dans une revue de recherche opérationnelle, sous le titre « Résolution heuristique de problèmes : la prochaine étape de la recherche opérationnelle ». Le mot « heuristique » reviendra souvent dans cet épisode. Il désigne une manière de procéder qui ne garantit pas de trouver une réponse. Au lieu d’explorer toutes les possibilités jusqu’au bout, on suit quelques pistes qui semblent prometteuses. Si l’on s’est trompé, on revient en arrière et on en prend une autre. C’est le plus souvent ainsi qu’on résout un problème.
Simon commence par trois constats sur la situation présente. Premier constat : l’ordinateur numérique sait déjà traiter certaines tâches de résolution pour lesquelles aucun algorithme n’est disponible. Deuxième constat : les procédés de la machine ont d’étroits parallèles avec ceux des humains qui résolvent des problèmes. Troisième constat : dans un cadre limité, la machine peut améliorer ses résultats à partir de l’expérience. Et Simon précise qu’il ne s’agit pas seulement de retenir les configurations qui ont marché : cela comprend aussi des procédés par lesquels la machine réécrit son propre programme.
Ces trois constats portent sur des choses déjà arrivées. Ils servent de base aux quatre prédictions. Le troisième dit qu’une machine sait s’améliorer à partir de l’expérience. Dix ans plus tard, l’auteur de l’article sur le jeu de dames écrira dans le texte qui lui fait suite que la machine ne sait toujours pas trouver par elle-même de nouvelles façons d’évaluer. L’écart que les quatre prédictions ont à franchir va de quelques tâches auxquelles on ne connaît pas encore d’algorithme tout fait jusqu’au titre de champion du monde.
Puis viennent les quatre prédictions. Sur la base de ces progrès, dit-il, et vu la vitesse à laquelle le domaine avance, il est prêt à faire les prédictions suivantes pour les dix prochaines années. Toutes ont la même échéance : d’ici dix ans.
Première prédiction : un ordinateur numérique deviendra champion du monde d’échecs. Une exception suit : à moins que le règlement ne lui interdise de concourir.
Deuxième prédiction : un ordinateur numérique découvrira et démontrera de lui-même un nouveau théorème mathématique important. Il y a deux exigences, la découverte et la démonstration. Il ne s’agit pas de vérifier une démonstration fournie par quelqu’un ; cela, un algorithme sait le faire.
Troisième prédiction : des critiques reconnaîtront à la musique composée par un ordinateur numérique une valeur esthétique certaine. Le critère n’est pas du côté de la machine. Écrire des notes ne suffit pas : il faut que les critiques acquiescent.
Quatrième prédiction : la plupart des théories en psychologie prendront la forme de programmes informatiques ou d’énoncés qualitatifs sur les propriétés de programmes informatiques.
Trois prédictions donnent un résultat précis à atteindre à la machine ; la quatrième donne une forme nouvelle à une discipline. En répondant aux objections l’année suivante, les deux auteurs proposent de faire les comptes autour du 1er janvier 1968.
Il suffit qu’une prédiction ait une échéance pour qu’on puisse en faire le compte. Les quatre en ont une, et c’est la même. C’est rare dans cette série. Les phrases des épisodes précédents n’avaient pour la plupart aucune échéance : ne peut rien faire surgir de nouveau, ne peut prendre l’initiative, indécidable, possible en principe. Une phrase qui porte une échéance est d’une autre sorte. Elle s’en remet au calendrier.
2. Les machines qui pensent
Il y a d’autres choses dans ce discours, et elles ne sont pas toutes dites avec la même assurance. Après les quatre prédictions, Simon emploie trois verbes pour décrire directement les machines qui existent déjà : penser, apprendre, créer. Il écrit « les machines qui pensent », et parle de celles qui tournent déjà, pas de celles de demain. Dans le même paragraphe, il étend un peu le champ de leurs capacités et parle d’« avenir prévisible ». Il ne traduit pas ce terme en années.
Plus loin, à propos du remplacement des cadres par des machines, il ne fait pas de prédiction à dix ans. Il pose une condition : à capacité égale de résolution de problèmes, la machine peut-elle soutenir la comparaison avec un cadre sur le coût ? Dans le même passage, il exprime deux réserves. Une prédiction de cette sorte n’est pas facile à faire et, si le changement se produit, il se produira sans doute progressivement.
Dans le même texte, quatre choses précises ont donc une échéance de dix ans ; une chose plus vaste est assortie d’une condition ; pour la portée des capacités, il y a un terme qui ne se mesure pas. La prudence n’est pas répartie uniformément. Chaque passage a sa propre mesure, plus lâche ici, plus serrée là. Ceux qui ont cité le texte ensuite se sont le plus souvent servis dans les passages les moins resserrés.
Simon fait aussi une comparaison. Pour former une personne à la résolution de problèmes scientifiques, il faut en général une vingtaine d’années. Si une machine a appris une méthode de résolution qui a fait ses preuves, copier celle-ci sur un autre ordinateur est une opération insignifiante.
Il emploie ensuite une formule : quand les machines auront un esprit. Ce dont il parle, c’est de copier un esprit comme celui-là. Pour l’humain, vingt ans ; pour la machine, une simple copie. Mais, pour que la comparaison tienne, il faut d’abord que la machine possède ce que l’on veut copier. Dans cette phrase, le préalable est admis comme un fait à venir.
À côté des phrases des épisodes précédents qui traçaient une limite, celle-ci va dans l’autre sens. En 1843, la machine ne pouvait pas prendre l’initiative. En 1887, les deux incapacités disaient qu’elle ne trouvait pas ses propres problèmes. En 1936, la limite avait été démontrée. Simon ne demande pas si la machine peut avoir un esprit. Il tient déjà la chose pour acquise dans l’avenir et passe au problème technique qui se posera ensuite : la copie.
La limite n’est pas dans la phrase. La phrase se tient de l’autre côté et regarde en arrière. Les précédentes demandaient où passait la limite. Celle-ci n’en demande plus rien. Elle demande ce qu’on fera une fois la limite passée.
Dans le même discours, Simon énumère des travaux déjà en cours : des programmes qui découvrent des démonstrations au lieu de seulement les vérifier, le jeu de dames, les échecs, la conception technique, la composition musicale, la reconnaissance de formes. Il rapproche expressément le travail du programme de démonstration de l’activité qu’on dit créative et intuitive lorsque des scientifiques cherchent une démonstration.
Pour l’exemple de la musique, il ajoute pourtant deux réserves : « je crois » et « d’après ce que m’a dit un juge compétent ». Il évoque un morceau composé par une machine dans une université. Il ne juge pas lui-même de sa qualité ; il rapporte le jugement d’un autre. Dans un même discours de fin de dîner, la valeur du morceau composé par une machine est donc assortie de deux précautions, alors que le titre de champion du monde dans les dix ans n’est assorti que d’une exception sur le règlement.
3. Un programme général de résolution de problèmes
Le programme de démonstration logique ne savait faire qu’une chose : démontrer les propositions numérotées des Principia Mathematica. Après quoi, les mêmes personnes ont entrepris de faire plus grand : un programme de résolution qui ne soit pas limité à un sujet.
Son nom est « General Problem Solver », programme général de résolution de problèmes. En 1959, à une conférence internationale sur le traitement de l’information à Paris, Newell, Shaw et Simon ont présenté un « Rapport sur un programme général de résolution de problèmes pour ordinateur ». En avril 1961, la RAND Corporation a publié un texte intitulé « General Problem Solver : un programme qui simule la pensée humaine ». Pas d’« intelligence » dans le titre. On y trouve « simule la pensée humaine ».
La première page délimite un tout petit objet de recherche : la façon dont certaines personnes s’efforcent de résoudre certains problèmes formels simples. La première phrase donne pour sujet la psychologie de la pensée humaine. Les auteurs posent eux-mêmes leurs trois restrictions : certaines personnes, certains problèmes, des problèmes formels simples.
Un programme qui se dit général réduit donc à ce point sa portée dès la première page. Entre le « général » du titre et ces trois restrictions du texte, il y a tout le manuscrit. Et, quand on a ensuite cité le programme, on a surtout cité son nom.
La tâche effectivement montrée en détail est la transformation d’expressions en logique symbolique. Sur la table, il y a des expressions logiques. Les moyens dont on dispose sont quelques règles de logique données. Ce qu’il faut repérer, ce sont des différences : ici, changer de connecteur ; là, ajouter un terme. La machine sait relever ces différences en comparant les expressions.
Tout dépend de ce point. La différence entre ce qu’on a en main et le but doit d’abord pouvoir être désignée. Si on ne peut pas l’indiquer, tout le reste demeure sans prise. Le champ de la méthode dépend donc de la possibilité d’écrire les différences sous une forme que la machine reconnaît. Ce qui peut s’écrire entre ; ce qui ne le peut pas reste dehors.
La méthode s’appelle « analyse moyens-fins ». Elle procède ainsi. Comparer d’abord l’état actuel avec l’état visé et relever une différence. Dans la table qui fait correspondre moyens et différences, prendre alors un moyen susceptible de réduire l’écart. Si ce moyen ne peut pas servir tout de suite, poser comme nouvel objectif la condition qui le rendrait utilisable. Une fois le petit objectif atteint, appliquer le moyen, puis comparer à nouveau pour voir ce qui manque encore. Pour tout petit objectif, on reprend la même méthode.
Cela ressemble en effet à notre manière de nous y prendre. On veut aller quelque part, on n’a pas de voiture. On cherche donc d’abord une voiture. Pour en trouver une, il faut d’abord de l’argent. On commence donc par chercher de l’argent. Les gens appellent cela trouver un moyen. Le programme en fait une suite d’étapes qu’on peut exécuter. Et cette suite peut s’appliquer à elle-même : sous un petit objectif, un autre peut s’ouvrir, étage après étage.
Le programme n’essaie pas tous les moyens l’un après l’autre. Le texte de 1961 classe les différentes sortes d’écarts par difficulté et fixe des règles : on n’essaie pas un sous-objectif plus difficile que l’objectif dont il dépend ; si un objectif vient à la suite d’un objectif plus facile, il peut aussi être écarté.
Le programme laisse donc tomber de lui-même certaines voies. Parmi elles, il y en a qui auraient mené au but. C’est le propre d’une heuristique : elle renonce à certaines voies praticables pour que l’ensemble puisse aller jusqu’au bout.
Les deux auteurs ont comparé le chemin parcouru par le programme avec le raisonnement exprimé phrase après phrase par une personne qui résout le même problème. Ils rapportent aussi bien les accords que les écarts. Voici comment : on demande à quelqu’un de dire à voix haute ce qu’il pense pendant qu’il résout le problème, et on le note. Puis on imprime chaque étape parcourue par le programme. On met les deux relevés côte à côte et on compte, pas à pas, ce qui concorde et ce qui ne concorde pas.
Ce procédé met sur la même table l’expérience de psychologie et la sortie du programme. Ces chercheurs écrivaient le programme comme une théorie sur les humains. La plupart de ceux qui ont repris ces travaux ensuite ne l’ont considéré que comme un programme.
À la fin du passage, ils écrivent quelque chose de très net. Le programme, reconnaissent-ils, comporte de nombreux degrés de liberté qu’on peut régler pour épouser les données. Or ils n’ont pas alors de bonne méthode pour compter les degrés de liberté pertinents d’un programme. Si le programme concorde avec la pensée humaine, une partie de la concordance peut donc venir des réglages. Eux-mêmes ne savent pas compter dans quelle mesure.
Plus un modèle a de choses qu’on peut régler, plus il est facile de le faire coïncider avec les données qu’on a sous les yeux. Cet aveu se trouve à la fin de leur propre texte. Ce n’est pas un défaut que quelqu’un d’autre est venu relever.
Dans le texte de 1961, le programme est donc deux choses à la fois : un programme informatique et une théorie psychologique sur la manière dont les gens pensent. Le but n’est pas de fabriquer une intelligence comme la leur, mais d’expliquer comment ils pensent.
On a souvent confondu les deux par la suite. Si un programme est écrit comme une théorie sur les gens, il faut le comparer aux gens pour savoir s’il est juste. S’il est écrit comme un outil, il faut le confronter au travail pour savoir s’il est bon. Le même code, deux questions et deux façons de compter les points. Les auteurs ont choisi la première en 1961, et le domaine a suivi la seconde. Le choix détermine ce qui comptera comme une réussite et à qui il faudra rendre compte d’un échec.
Ils l’ont écrit dans un langage de programmation qu’ils avaient eux-mêmes mis au point pour manipuler des symboles et des listes, de la même famille que ce qu’ils utilisaient pour le programme de démonstration logique de l’épisode précédent.
4. L’apprentissage automatique
Un autre travail a été souvent cité au cours de ces dix ans : le programme de jeu de dames d’Arthur Samuel. Les dames sont un sujet plus restreint que les échecs. Les pions sont tous du même genre, ils avancent en diagonale ou sautent par-dessus une pièce pour la prendre, et deviennent des dames sur la dernière rangée. Les règles tiennent en quelques phrases, et bien jouer n’est pourtant pas facile. C’est la raison qu’avait Shannon de choisir les échecs six ans plus tôt : les coups permis et le but sont clairs, et la difficulté est suffisante. Ce genre de sujet présente un autre avantage : il est facile de compter les points. On voit tout de suite qui gagne et qui perd, et il suffit de reprendre la partie pour repérer une erreur. Le domaine a souvent choisi ce type de sujet par la suite. Une chose facile à mesurer est aussi facile à raconter. La chose qu’on a le plus racontée pendant ces dix années était justement facile à mesurer.
En juillet 1959, la revue de recherche et développement d’une entreprise publie son article « Quelques études sur l’apprentissage automatique à l’aide du jeu de dames ». Le terme du titre est « apprentissage automatique ». Ni « intelligence des machines » ni « machine qui pense ». Au dîner de 1957, il avait été question de « résolution heuristique de problèmes » ; dans la demande de 1955, d’« intelligence artificielle ». Ici, c’est l’apprentissage.
Samuel dit avec prudence ce qu’il peut établir : on peut programmer un ordinateur de manière à ce qu’il apprenne à mieux jouer aux dames. Voici ce que cela veut dire : les règles sont données par les humains, comme la façon de produire des coups, le nombre de coups à prévoir et le cadre d’évaluation d’une position. À l’intérieur de ce cadre construit par les humains, le programme a appris à jouer mieux que la personne qui l’avait écrit.
Dépasser son auteur paraît important. Tout dépend cependant du niveau de l’auteur aux dames. Samuel n’était pas un joueur de haut niveau. Sous sa plume, la phrase était exacte ; en circulant, elle est souvent devenue : la machine a dépassé l’humain.
Quant à savoir ce que veut dire « apprendre », Samuel emploie un critère de comportement. Il s’agit d’amener la machine à se comporter d’une façon qu’on décrirait comme un apprentissage si on l’observait chez un humain ou chez un animal. Il ne commence pas par trancher la question de savoir si la machine connaît réellement l’état mental qu’on appelle apprendre.
Ce procédé est déjà apparu plusieurs fois dans la série. On remplace une chose hors d’atteinte par une chose à portée de main, et l’argument continue. En 1936, une note écrite prenait la place d’un état mental. En 1950, un jeu prenait la place d’une question. Cette fois, un critère de comportement prend la place du mot « apprentissage » lui-même. À chaque substitution, l’argument avance d’un pas. Ce qu’il a remplacé reste là où c’était.
Samuel ne dit pas que la machine apprend. Il dit qu’elle se comporte d’une certaine façon et qu’ailleurs ce comportement porterait le nom d’apprentissage. Le sujet a changé, et la phrase tient.
Il emploie deux méthodes. La première est la mémorisation par cœur. Le programme enregistre les positions qu’il a effectivement rencontrées au cours de la recherche, avec le résultat de leur analyse. Au calcul suivant, s’il arrive à une position déjà enregistrée, il peut reprendre l’ancien résultat comme une information venue de plus loin. À temps de calcul égal, c’est comme s’il regardait un peu plus loin. Il ne mémorise pas des recueils de parties ; il mémorise ses propres calculs. Plus il a joué de positions, plus il a de calculs en réserve et plus il peut voir loin dans le même temps.
La seconde est la généralisation. La qualité d’une position est évaluée à partir de paramètres désignés par les humains. On multiplie chaque paramètre par un coefficient réglable ; leur somme donne la note de la position. Au fil des parties, le programme ajuste les coefficients pour affiner son évaluation. Les humains décident des paramètres à examiner ; la machine ajuste le poids de chacun. Les humains fixent la question, la machine règle les notes.
Chaque méthode a ses défauts, et c’est Samuel qui les écrit. La progression par mémorisation est très lente mais continue, et la méthode fonctionne plutôt bien dans l’ouverture et en finale. La généralisation apprend plus vite, mais finit par plafonner. La hauteur du plafond dépend de la qualité de la liste de paramètres fournie par les humains. Elle fonctionne mieux en milieu de partie qu’à l’ouverture ou à la fin.
Cette liste a été écrite par des humains. La machine peut régler très finement la part de chacun des éléments, mais elle ne peut pas inventer le suivant. Cette limite l’accompagnera par la suite et sera toujours là à la fin des dix ans.
5. Cette partie-là
En 1962, le programme gagne une partie contre Robert Nealy. Cette partie deviendra l’affaire la plus souvent racontée de toute la décennie. Une machine a gagné contre un humain, et pas n’importe lequel : quelqu’un qui avait un titre. La formule est facile à retenir, à raconter, à réemployer. Au cours des soixante années suivantes, une histoire de cette forme revient de loin en loin. Le projet, le jeu et l’adversaire changent, la forme reste : une machine, quelqu’un qui a un titre, une partie, un résultat. Quand cette forme apparaît en 1962, le titre vient d’un bulletin d’entreprise. Trente-cinq ans après, quelqu’un est allé regarder les résultats des tournois.
En août 1962, un bulletin de recherche de l’entreprise présente Nealy comme un ancien champion de dames du Connecticut et l’un des principaux joueurs du pays. Un bulletin de recherche d’entreprise s’adresse à l’extérieur.
En 1963, l’article de Samuel de 1959 est repris dans un recueil auquel on joint le relevé de la partie. Un relevé de partie est un document solide. Chaque coup est consigné noir sur blanc ; soixante ans plus tard, on peut encore le faire recalculer par un autre programme. Un relevé qui peut être recalculé et une appréciation que l’on peut citer à répétition sont deux sortes de documents. Avec le temps, on peut lire le premier de plus en plus précisément, et raconter le second de plus en plus aisément. Celui qui se transmet, d’ordinaire, c’est le second.
Après cette partie, les deux adversaires en ont joué six autres. Il leur a fallu plus de cinq mois. Chez lui, Nealy réfléchissait devant son damier, puis inscrivait son coup sur une carte postale et l’envoyait au centre de recherche de l’entreprise à Yorktown Heights. La machine mettait généralement dix ou vingt secondes à choisir un coup, jusqu’à cinq minutes environ dans une position difficile, une minute en moyenne. Nealy mettait en moyenne trois minutes par coup.
Six parties, plus de cinq mois. En additionnant le temps de réflexion des deux côtés, on ne remplit sans doute pas un après-midi. Le reste, c’est le temps des cartes en route. Une machine et un homme jouent pendant cinq mois à travers le réseau postal. C’est ainsi qu’une machine et une personne jouaient aux dames au début des années 1960. Pas d’écran, pas de face-à-face, pas de public. Des cartes postales, une à une, sur le chemin de l’aller et du retour.
Nealy lui-même a commenté la partie de 1962. La machine, écrivait-il, avait joué la finale à merveille ; depuis 1954, il n’avait pas rencontré un tel adversaire en fin de partie. Ces mots sont ceux de l’adversaire lui-même, et on les a bien plus souvent cités que les résultats des six parties qu’il a jouées ensuite.
6. Les parties suivantes
Samuel donne les résultats de ces six parties dans son article de 1967 : cinq nulles et une défaite. C’est le programme qui perd, et cette défaite suit sa victoire de 1962. Cinq nulles et une défaite, du point de vue du programme ; du point de vue de Nealy, une victoire et cinq nulles. L’homme qui a perdu une partie en 1962 n’en perd aucune au cours des six suivantes.
Dans le même passage, le titre que Samuel donne à Nealy n’est pas celui du bulletin de 1962. Il le présente comme le champion américain des joueurs de dames aveugles. Deux titres en cinq ans pour la même personne, dans deux textes écrits au sein de la même institution. Le premier paraît l’année de la victoire du programme ; le second, dans l’article qui rapporte cinq nulles et une défaite.
Il y a eu d’autres parties. En 1965, le programme en a joué quatre par correspondance contre le champion du monde Hellman. Hellman a gagné les quatre. En 1967, Hanson, un champion de la côte du Pacifique, avait déjà battu deux fois le programme du moment. Tout cela figure dans l’article de Samuel. Ce sont les défaites que l’auteur rapporte lui-même.
Plus tard, un historien du jeu de dames a vérifié les résultats des compétitions : Nealy avait obtenu le titre du Connecticut en 1966 et n’avait pas participé aux compétitions du plus haut niveau, comme le championnat des États-Unis. Dans la version souvent racontée par la suite, il était pourtant le quatrième joueur du pays.
Le même chercheur a repris la partie de 1962 avec un programme beaucoup plus fort. Par un coup décisif, Nealy a transformé une position qu’il pouvait tenir nulle en position perdante. Mais le programme de Samuel a aussitôt commis une faute grave à son tour et rendu à Nealy sa chance d’obtenir la nulle. Nealy ne l’a pas saisie. Voilà donc la forme de la partie : les deux côtés ont commis des erreurs, et l’adversaire n’a pas profité de celle de la machine.
En novembre 1967, Samuel publie une suite dans la même revue. Il y énumère cinq défauts importants du premier programme. Celui qui dresse la liste est son auteur, et le programme tourne depuis une dizaine d’années.
Un : il ne sait pas produire efficacement de nouveaux paramètres d’évaluation par lui-même. Deux : il est faux de supposer que l’on peut combiner les paramètres par une simple somme linéaire. Trois : il apprend lentement. Quatre : l’élagage et les critères d’arrêt de l’arbre de recherche ne suffisent pas. Cinq : il n’a pas de moyen de changer de stratégie d’ensemble en fonction de la situation tactique. Le premier et le cinquième défaut sont les deux bouts du même problème : il ne sait pas trouver un nouveau point de vue, ni changer de manière de jouer selon la position.
Dans la version nouvelle, Samuel change la façon de représenter le rapport entre la combinaison des paramètres et la valeur de la position, et il améliore l’élagage. Sur la même page, il écrit pourtant qu’on n’a pas surmonté les limites les plus fondamentales de l’apprentissage automatique, et que le programme ne joue toujours pas au niveau d’un maître.
La nouvelle version ajoute aussi une méthode d’apprentissage à partir de relevés de parties de maîtres. On encode quelque deux cent cinquante mille positions sur des cartes perforées, puis on les transfère sur bande magnétique. Le programme les fait défiler partie après partie : il choisit d’abord son coup, le compare au coup recommandé par le relevé, puis ajuste sa méthode d’évaluation. Une passe d’apprentissage prend environ dix heures.
Samuel apporte aussi une réserve à cette méthode. En pratique, elle suppose que le coup recommandé dans le relevé est le seul juste. Ce n’est pas forcément vrai : plusieurs coups peuvent être bons dans une même position, et les relevés peuvent comporter des erreurs.
Il y a encore une phrase dans la conclusion. L’objectif ultime qu’il s’était donné huit ans plus tôt, dit Samuel, était que le programme produise lui-même les paramètres dont il avait besoin. Cet objectif paraît aussi loin qu’alors. Une décennie passe : le même homme, le même travail, la même phrase prise par les deux bouts. Ses deux articles posés l’un à côté de l’autre font les comptes qu’il fait devant lui-même.
7. Le nom n’a pas reculé
Depuis six épisodes, un fil traverse la série : avant qu’une machine y arrive, une tâche passe pour intelligente ; après, on l’appelle autrement. En 1948, quelqu’un l’a inscrit dans la dernière section d’un document interne : une chose cesse de paraître intelligente une fois qu’on l’a comprise, qu’on peut la calculer exactement, qu’on voit comment elle fonctionne.
Or, dans les documents de première main rassemblés dans cet épisode, on ne trouve aucune phrase qui dise explicitement qu’une capacité cesse de compter comme intelligente dès qu’une machine la possède.
On trouve au contraire toute une série d’exemples inverses. Dans le discours de 1957, les opérations du programme de démonstration sont mises sur le même plan que l’activité intuitive des scientifiques. Les dames et les échecs figurent parmi les résultats acquis de la résolution heuristique. Rien ne dit qu’ils ne comptent pas comme intelligents.
En 1959, Samuel intitule son article sur les dames « apprentissage automatique ». La machine joue déjà, et jouer n’est pas pour autant exclu de l’apprentissage.
En 1960, Newell, Shaw et Simon intitulent un autre article « Diverses formes d’apprentissage intelligent dans un programme général de résolution de problèmes ». L’intelligence et l’apprentissage sont côte à côte dans le titre. Le programme général tourne déjà.
En janvier 1961, Marvin Minsky publie « Quelques pas vers l’intelligence artificielle » dans le bulletin d’une société d’ingénieurs en électronique. À cette date, le terme peut apparaître directement dans le titre d’un article de recherche. Il n’est plus réservé à l’usage interne d’un dossier de 1955.
En 1962, Samuel emploie lui aussi le terme dans le titre d’un article, l’année même où son programme gagne cette partie. Après la victoire, il ne renomme pas son domaine.
Pendant cette décennie, le nom entre aussi dans les institutions. Au MIT, un projet de recherche prend ce nom, puis un laboratoire. Stanford a aussi son laboratoire du même nom. De la feuille de demande, le mot est passé aux titres des articles, puis aux plaques des portes. À aucun moment il n’a fallu, pour qu’il avance, qu’une chose laisse sa place après avoir été réussie.
En 1967, au début d’un ouvrage, Minsky fait la liste de certaines activités déjà pratiquées : jouer, apprendre, résoudre des problèmes mathématiques non numériques, produire des expressions en langage courant. Il dit que ces choses étaient auparavant réservées à l’intelligence humaine. Il n’écrit pas qu’elles cessent d’appartenir à l’intelligence parce qu’une machine y arrive. Il dit qu’autrefois elles y étaient réservées, et que maintenant des machines font aussi la même chose.
Sur la même page figure la phrase qu’on a tant citée : d’ici une génération, j’en suis convaincu, il restera peu de compartiments de l’intelligence hors du domaine des machines. La suite dit que le problème de la création de l’intelligence artificielle sera pour l’essentiel résolu. La phrase comporte trois réserves. Le délai est une génération, non trois, dix ou vingt ans. « J’en suis convaincu » indique une conviction personnelle. Et le résultat annoncé est une résolution pour l’essentiel, pas une résolution complète.
Quant à l’expression répandue selon laquelle l’intelligence artificielle serait ce qu’on ne sait pas encore faire, une des premières sources imprimées qu’on ait retrouvées ici est un livre de 1979 sur la logique, la musique et la peinture. L’auteur attribue la formule à quelqu’un d’autre, l’appelle son théorème et explique qu’une fois une fonction mentale programmée, on cesse vite de la considérer comme une composante essentielle de la pensée véritable. La personne à qui la formule est attribuée a indiqué plus tard que la version qui circulait ne reprenait pas ses termes exacts. Cette prétendue loi du domaine remonte donc à un livre de 1979 qui attribue une phrase à quelqu’un qui ne la fait pas tout à fait sienne. Quant à l’autre formule, selon laquelle plus personne ne parle d’intelligence artificielle dès qu’une chose marche, on ne l’a pas retrouvée dans les documents de 1957 à 1970 utilisés ici.
Durant ces dix années, on accomplit beaucoup de choses, et la ligne ne recule pas. Les dames se jouent et s’appellent toujours apprentissage. Les théorèmes se démontrent et s’appellent toujours intelligence. Le livre de 1967 les range encore parmi les choses autrefois réservées aux humains.
Ce qui recule, c’est autre chose : ce qu’on dit des capacités. Huit ans après, l’auteur de l’objectif ultime du programme de dames écrit qu’il n’a pas avancé. Les quatre prédictions arrivent elles aussi au moment où leurs auteurs ont dit qu’on pourrait les revoir. Le nom n’a pas reculé. Les capacités n’ont pas grandi au rythme annoncé.
C’est un autre mouvement que celui des premiers épisodes. Auparavant, la limite reculait sous la poussée de chaque réussite. Dans ces documents-ci, les choses accomplies ne sortent pas une à une de l’intelligence de cette manière.
8. De trois à huit ans
Le 20 novembre 1970, un magazine illustré grand public publie un reportage intitulé « Voici Shakey, le premier homme électronique ». Le sous-titre présente une machine dotée d’un esprit à elle. Le journaliste s’appelle Brad Darrach.
Shakey est une machine qui se déplace à l’intérieur, dans un institut de recherche. Elle a des roues pour avancer et une caméra pour voir. Le journaliste est allé la regarder sur place. C’est le titre qui en fait un homme. L’article dit aussi ce qu’elle sait faire : passer d’une pièce à l’autre, pousser des boîtes qui obstruent son chemin. Le titre, lui, est fait pour les gens qui passent devant un kiosque.
Le reportage cite des propos que Minsky aurait tenus récemment, selon le journaliste. Première phrase entre guillemets : « Dans trois à huit ans, nous aurons une machine douée de l’intelligence générale d’une personne ordinaire. »
La citation se poursuit avec des capacités de tous les jours, pour montrer ce que veut dire « l’intelligence générale d’une personne ordinaire » : lire Shakespeare, graisser une voiture, manœuvrer dans la politique d’un bureau, raconter des blagues, se battre. Cinq choses qu’une personne en chair et en os pourrait faire dans la même journée. Ce ne sont pas des spécifications techniques ; c’est une liste de la vie ordinaire. On peut faire les comptes avec des spécifications techniques. Avec une liste de la vie ordinaire, c’est moins facile.
Ensuite, la machine pourra s’instruire elle-même à une vitesse prodigieuse, atteindre d’abord le niveau du génie, puis un stade où l’on ne saura plus mesurer ses capacités. Les trois à huit ans valent pour le niveau ordinaire. Pour la suite, aucun délai n’est donné.
Dans la même citation, il est aussi question de perdre la main : si les machines prennent le contrôle, les humains pourraient ne pas le reprendre ; avec de la chance, les machines les garderont peut-être. Mais dans la première phrase, pas de « si », pas de « peut-être », pas de condition qui doive se réaliser.
Mettons cette phrase à côté des quatre prédictions de treize ans plus tôt. Celles de 1957 ont une échéance, une exception, et sont précédées d’un « nous sommes prêts à faire ces prédictions ». Celle de 1970 n’a qu’une fourchette, de trois à huit ans, et rien d’autre.
Le ton de la citation vient du journaliste : il écrit que Minsky parle avec une tranquille assurance. Selon un témoignage ultérieur, Minsky a vigoureusement nié avoir prononcé ou approuvé ces propos. Une phrase imprimée comme citation directe et une phrase effectivement prononcée sont deux choses différentes. Celle-ci est pourtant souvent reprise comme un exemple des grandes promesses faites dans le domaine.
Deux auteurs ont fixé quatre critères dans un discours de fin de dîner. Au moment où ils avaient dit qu’on pourrait faire les comptes, on ne trouve pas ici de texte où ils les fassent point par point. Peu avant, à la dernière page de l’article sur les dames, on lisait que l’objectif ultime paraissait aussi loin que huit ans auparavant.
Et ce qu’on a retenu, c’est la partie de 1962. Les six parties par correspondance, les quatre perdues contre le champion du monde et les deux perdues contre le champion de la côte du Pacifique sont toutes rapportées dans le même article par la même personne. On ne s’en souvient pas. La forme sous laquelle on se souvient d’une chose et la forme qu’elle a sur le papier ne sont pas les mêmes.
Ces documents ne font pas le compte de tout le reste. Les personnes en cause rangent encore parmi les activités intelligentes certaines tâches déjà accomplies. Pour celles qui ne le sont pas, chacune fait ses comptes dans son propre texte.
L’échéance change, et la chose dont on parle change aussi. En 1957, les dix ans portent sur quatre choses. En 1967, une génération porte sur le nombre de compartiments qu’il restera dans l’intelligence. En 1970, les trois à huit ans du reportage portent sur la possibilité qu’une machine soit comme une personne ordinaire. D’un côté, un dîner de congrès ; de l’autre, l’ouverture d’un ouvrage ; enfin, une citation directe dans un magazine populaire. On ne peut pas les aligner pour mesurer une vitesse. On peut regarder, en les mettant côte à côte, où sont les réserves et combien il en reste par la suite.
Quand une phrase avec échéance quitte sa page d’origine, toutes ses conditions ne la suivent pas forcément. Les phrases les plus faciles à sortir toutes seules sont souvent celles qu’on cite et recite comme des engagements pris par tout le domaine.
On construit encore des machines. Quant à savoir où passe la limite, chaque génération le dit à nouveau.