I. Il n’y avait pas encore de nom
En 1948, dans l’introduction d’un livre, Norbert Wiener, mathématicien au MIT, donne cette explication : lui et ses collègues se trouvent devant un ensemble de problèmes communs à la communication, au contrôle et à la mécanique statistique, dans les machines comme dans les organismes vivants. Or ce domaine n’a pas de vocabulaire commun, ni même de nom à lui.
On ne commence pas d’ordinaire par annoncer qu’un domaine n’a pas de nom quand on s’apprête à lui en donner un. Wiener l’annonce. En 1948, les discussions du groupe avaient déjà des antécédents pendant la guerre, et plusieurs conférences du cycle Macy avaient eu lieu. Le nom que les participants donnaient à ce qu’ils faisaient changeait pourtant à intervalles réguliers.
Wiener en forgea donc un. Il le présentait comme un mot de formation néo-grecque, tiré du nom du pilote qui tient la barre d’un navire, pour désigner la théorie du contrôle et de la communication chez l’animal et dans la machine. Puis il le rattachait à l’article de Maxwell de 1868 sur les régulateurs. Le mot anglais qui les désignait, expliquait-il, venait aussi de cette racine grecque par l’intermédiaire du latin, sous une forme altérée. Il rappelait en outre que le gouvernail des navires avait été l’un des premiers dispositifs de rétroaction à arriver à maturité. En forgeant un mot, son premier geste était de lui donner une provenance.
Sur la même page il datait sa naissance : l’été 1947. La forme du mot avait pourtant un précédent. En 1834, André-Marie Ampère l’avait déjà employée en français dans un ouvrage de classification des sciences, pour désigner le projet d’une science du gouvernement.
Pour voir ce qui se passait alors, il suffit de regarder les titres des conférences.
À partir de 1946, le groupe se réunit une ou deux fois par an à New York. La première rencontre, les 8 et 9 mars 1946, a pour titre officiel « Mécanismes de rétroaction et systèmes de causalité circulaire dans les systèmes biologiques et sociaux ». Pour la deuxième, les 17 et 18 octobre de la même année, le titre devient « Mécanismes téléologiques et systèmes de causalité circulaire ». La troisième se tient en mars 1947. Pour la quatrième, les 23 et 24 octobre 1947, nouveau titre : « Causalité circulaire et mécanismes de rétroaction dans les systèmes biologiques et sociaux ». La cinquième a lieu en mars 1948.
Quand la quatrième conférence changea de titre, le nouveau mot existait déjà depuis trois mois. Il ne figurait pas dans le titre officiel de la conférence. Du moment où un nom est forgé au moment où il est adopté, il s’écoule du temps. Pendant ce temps, le travail continue.
La sixième conférence, en mars 1949, gardait le titre long. À la septième, fin mars 1950, le mot cybernétique apparut pour la première fois dans le titre général. Le livre avait paru un an et demi plus tôt. Le titre demeura pour les trois réunions suivantes ; la dernière eut lieu en avril 1953.
Une discipline avait déjà tenu quatre réunions avant d’avoir un nom.
Le livre se vendit fort bien. À la fin de 1949, on en avait vendu environ vingt mille exemplaires. Dans les six premiers mois, il avait été réimprimé trois fois. Un traité de rétroaction et de contrôle était devenu un succès de librairie.
II. Un réseau de neurones
En décembre 1943, une revue de biophysique mathématique publia dix-neuf pages sous le titre « Un calcul logique des idées immanentes à l’activité nerveuse ». Les auteurs étaient Warren McCulloch et Walter Pitts. McCulloch venait d’avoir quarante-cinq ans ; Pitts en avait vingt, n’avait pas de diplôme et connaissait la logique. Il avait longtemps étudié la logique et les mathématiques à Chicago en dehors des cursus. Il entra dans le cercle de McCulloch vers 1942 et vécut quelque temps chez lui.
Les neurones sont des cellules du cerveau. Dans le modèle, un neurone reçoit des stimulations d’autres neurones. Si elles sont suffisantes, il émet une décharge ; sinon, il n’en émet pas. On note le fait de décharger ou non, pas l’intensité. Les jonctions entre neurones s’appellent des synapses. Certaines poussent à la décharge, d’autres l’empêchent. Le minimum de stimulation requis s’appelle le seuil.
La première hypothèse formelle de l’article dit que l’activité du neurone est un processus de tout ou rien. Les quatre suivantes précisent qu’un nombre fixe de synapses excitatrices doit agir durant un intervalle dit de sommation latente ; que le seul délai significatif dans le modèle est celui de la synapse ; qu’une synapse inhibitrice empêche entièrement l’excitation du neurone à l’instant où elle agit ; enfin que la structure du réseau ne change pas avec le temps.
Les auteurs ne disent pas d’emblée qu’un neurone est une porte logique. Ils font d’abord du tout ou rien la raison pour laquelle l’activité d’un neurone peut être représentée par une proposition. Puis ils demandent qu’aux relations entre activités physiologiques correspondent des relations logiques entre ces propositions. La réponse d’un neurone correspond à une proposition simple ; la configuration des synapses, les seuils et l’inhibition déterminent si l’on a une conjonction, une disjonction ou une négation.
À la fin de l’article, ils rattachent leur système à un travail paru sept ans plus tôt. Donnez à un réseau de neurones une bande, reliée à un dispositif de lecture à l’entrée et à une sortie appropriée : les nombres qu’il peut calculer sont ceux qu’une machine de Turing peut calculer, et réciproquement. Dans le même passage, ils voient là un fondement psychologique de la définition de la calculabilité chez Turing et placent celle-ci à côté de celles de Church et Kleene.
L’article sur l’indécidabilité n’avait que sept ans et servait déjà de référence du côté des neurones. On l’avait déplacé dans l’autre sens. Turing détachait une machine du travail d’une personne ; McCulloch et Pitts se servaient de cette machine pour mesurer les neurones.
Ils ajoutent une réserve. Sans bande ni lecteur, avec les seules boucles du réseau, on ne trouve qu’une partie des nombres qu’une machine de Turing peut calculer. Ils énumèrent aussi deux difficultés rencontrées dans la première formalisation : d’un côté la facilitation et l’extinction, de l’autre l’apprentissage. Les premières changent temporairement la réponse d’une même partie du réseau à une stimulation. Dans le second, des activités passées et simultanées modifient le réseau de façon durable, jusqu’à ce qu’une stimulation naguère insuffisante puisse déclencher une réponse.
Leur solution est de remplacer les réseaux qui changent par des réseaux virtuels équivalents, aux connexions et aux seuils fixes. Aussitôt après, ils avertissent que cette équivalence formelle ne constitue pas une explication des faits.
La phrase est ferme. Ils savent qu’ils ont remplacé une chose, pas expliqué cette chose.
Quand un modèle ne peut plus avancer, ils construisent un substitut qui peut avancer et écrivent à côté qu’il s’agit d’un substitut. La première moitié du geste n’a cessé d’être reprise. La seconde a souvent été omise.
Leur description de la physiologie réelle ne ressemble pas non plus au modèle à réseau fixe. Ils rapportent la facilitation et l’extinction à une variation continue du seuil et parlent précisément de variables électriques et chimiques, de post-potentiels et de concentrations d’ions. L’apprentissage, en revanche, est une modification durable, qui persiste après le sommeil, l’anesthésie, les convulsions ou le coma.
En revenant plus loin à l’apprentissage, ils modifient encore une hypothèse : l’apprentissage réel paraît exiger que la structure du réseau change définitivement. Ils donnent pour mécanisme le plus simple la formation de nouvelles synapses, ou une baisse locale équivalente du seuil. Puis ils démontrent par un théorème que des boucles peuvent remplacer formellement les synapses susceptibles de changer.
La cinquième hypothèse affirme que la structure du réseau ne change pas. Le même article dit ensuite que l’apprentissage exige en fait un changement de structure. La solution ne consiste pas à déclarer la structure physiologique invariable, mais à montrer que certains réseaux variables peuvent être simulés de manière formellement équivalente par un réseau virtuel fixe, plus grand.
En traitant de l’inhibition relative, ils remplacent une variation continue du seuil par une suite de seuils discrets. Ils précisent que seule l’approximation à l’entier le plus proche a un sens pour les formes naturelles d’excitation. La réserve sur l’approximation est d’eux.
Après un théorème général de réalisabilité, ils préviennent que, faute de place, la preuve n’est donnée que dans ses grandes lignes. Appliquer la condition à un cas réel exigerait d’examiner des classes de fonctions en très grand nombre. Ils proposent donc une condition suffisante plus facile à employer, qui leur paraît devoir convenir à la plupart des usages pratiques. Grandes lignes, paraît, usages pratiques : trois réserves dans la même phrase.
Nulle part ils n’appellent leur modèle un modèle complet du cerveau, ni un cerveau artificiel, et ils ne prétendent pas avoir inventé une chose de ce genre. Leur vocabulaire est celui du réseau de neurones, de l’équivalence formelle, du calcul et du réseau virtuel.
III. Dans le même paragraphe
Le 30 juin 1945, une première version d’un texte sur l’organisation d’un ordinateur électronique est achevée. Dans la deuxième section du quatrième chapitre, son auteur, sitôt décrits les neurones des animaux supérieurs, écrit qu’il suit Pitts et McCulloch. Il donne le titre de leur article, la revue, le volume, l’année et les pages.
Voici ce qui suit. Il annonce qu’il va négliger certains aspects plus complexes du fonctionnement des neurones, et il les énumère : seuils, sommation dans le temps, inhibition relative et effets qui vont au-delà du délai synaptique. Il compare ensuite le fonctionnement ainsi simplifié aux relais télégraphiques et aux tubes à vide.
Dans un même paragraphe, il cite et il retranche.
Il ne dit pas que l’article se trompe, ni que ces aspects complexes n’existent pas, ni qu’il sait comment les traiter. Il dit : dans ce qui suit, je n’en tiens pas compte.
Les quatre choses qu’il écarte sont précisément celles que les auteurs de l’article de deux ans plus tôt avaient souvent signalées comme difficiles. Ceux-ci disent qu’elles existent et que l’équivalence formelle ne les explique pas dans les faits. Celui qui les cite dit qu’elles existent et qu’il va les contourner.
Ni les uns ni l’autre ne le cachent. Quand une construction avance, ce qu’elle repousse n’est souvent pas oublié. On le nomme avant de le poser de côté.
Ce qu’on pose de côté ne se volatilise pas. Cela reste là, en attendant qu’on revienne le prendre. De moins en moins de personnes reviennent, car le chemin qui le contourne ne cesse de s’élargir.
C’est le neurone simplifié que le texte de 1945 compare au relais et au tube à vide. Plus tard, on dira souvent que l’ordinateur a été construit sur le modèle du cerveau. Le cerveau du texte avait d’abord été privé de quatre de ses traits.
Ici, l’objet s’appelle système de calcul automatique, ou système de calcul numérique automatique à grande vitesse. Dans ces noms, ni cerveau ni intelligence. Seulement le mot automatique.
IV. Ce qui est réputé demander de la réflexion
Le 9 mars 1949, à New York, Claude Shannon, des laboratoires Bell, présente un texte lors d’un congrès national d’ingénieurs radio. Il paraît en mars 1950 dans une revue de philosophie, sous le titre « Programmer un ordinateur pour jouer aux échecs ». Un an et demi auparavant, dans une autre revue, Shannon a publié en deux livraisons un article sur la communication : mesure de l’information, entropie, capacité du canal, redondance.
Pourquoi les échecs ? La première section donne quatre raisons, qui ne sont pas toutes de même nature.
La première porte sur la structure du problème : les opérations permises et le but final sont clairs.
La deuxième porte sur la difficulté : le jeu est assez complexe, mais pas au point qu’on ne puisse pas le traiter.
La troisième tient en une phrase : on estime généralement que bien jouer aux échecs demande de la réflexion.
La quatrième tient à l’accord entre la structure discrète des échecs et les opérations discrètes de l’ordinateur numérique.
Les première, deuxième et quatrième décrivent la chose. Seule la troisième dit comment on la voit. La grammaire de « on estime généralement » renseigne sur sa réputation, pas sur sa structure. Shannon met les deux sortes de raisons côte à côte sans en faire une seule.
C’est la première fois dans cette série que quelqu’un donne deux sortes de raisons pour choisir un problème et précise que l’une concerne le regard des autres.
La troisième raison se poursuit au conditionnel. Si une machine arrive à très bien jouer, on devra soit reconnaître qu’une certaine pensée mécanisée a eu lieu, soit resserrer un peu la définition de ce que l’on appelle penser.
Avant même que le travail soit fait, cette phrase montre le mécanisme que la série suit depuis le début. Quand une machine arrive à faire une chose, deux suites sont possibles : on reconnaît qu’elle est entrée, ou on recule la porte. Shannon ne prédit pas laquelle se produira. Il pose les deux routes. Et il le fait parmi les raisons de choisir le sujet, pas dans la conclusion. C’est une explication, non une thèse.
Puis vient la technique. Shannon part d’environ trente coups légaux dans une position ordinaire. Après un coup des blancs et un des noirs, il y a quelque mille combinaisons de branches. Avec une partie de l’ordre de quarante coups de chaque côté, l’arbre entier atteint environ dix à la puissance cent vingt variantes. L’estimation explique pourquoi on ne peut pas tout explorer. Plus loin, il reprend ce facteur d’environ mille à chaque fois que chacun a joué, pour montrer que même un petit tri épargne beaucoup d’essais à l’aveugle.
Il propose ensuite deux stratégies.
Le type A explore systématiquement les coups légaux, s’arrête à une profondeur fixée, note les positions terminales par une fonction d’évaluation, puis remonte les résultats de niveau en niveau. Son jugement est direct : avec cette stratégie, la machine jouera lentement et mal. Shannon fait un calcul très optimiste, à une microseconde par position. Pour aller jusqu’à trois coups de chaque côté, il faut encore à peu près un milliard d’évaluations, soit plus de seize minutes pour jouer un coup. Même en supposant une machine alors impossible, le résultat reste inutilisable.
Le type B ne développe pas toutes les branches de la même façon. Il retient les coups forcés, les variantes qui paraissent prometteuses et prolonge certaines lignes jusqu’à une position assez stable pour être évaluée.
Shannon avertit ici qu’on ne doit pas concevoir la stratégie de la machine à notre image. Mieux vaut tirer parti de sa vitesse et de son exactitude, tout en compensant ses faiblesses en reconnaissance et en analyse.
Cela va de pair avec la raison donnée plus haut. On choisit le problème parce que les gens pensent qu’il faut réfléchir pour le résoudre. Pour le résoudre, on ne doit pas s’y prendre comme eux.
La fonction d’évaluation sert à estimer par un nombre la qualité d’une position en réunissant des facteurs qu’on peut calculer : l’équilibre des pièces, la structure des pions, la mobilité et la sécurité du roi. Là où la recherche ne peut pas, ou ne doit pas, aller plus loin, on emploie cette note approximative.
Le minimax procède ainsi : à son tour, on choisit la branche qui rendra l’évaluation finale aussi grande que possible ; au tour de l’adversaire, on suppose qu’il choisira celle qui rendra notre évaluation aussi petite que possible. En remontant ainsi de niveau en niveau, on obtient le coup à jouer maintenant.
L’article ne dit nulle part sans condition qu’une machine pense. Ce qui s’en approche le plus reste l’alternative conditionnelle de la première section. Shannon donne lui-même pour but d’écrire une procédure qui permette à un ordinateur universel de son temps de jouer aux échecs. Il fournit un algorithme, des stratégies, une évaluation et des estimations.
V. Le document resté dans un tiroir
En 1948, au National Physical Laboratory britannique, un tapuscrit interne porte en tête : « Machines intelligentes, par Alan Turing ». Le texte compte une vingtaine de pages et s’adresse à ce laboratoire, où Turing est alors salarié.
La question du début est de savoir si une machine peut présenter un comportement intelligent. Le texte ne se réclame d’aucun des noms de domaine qui s’imposeront plus tard.
Turing y appelle « machines non organisées » des ensembles de nombreuses unités semblables raccordées de manière relativement irrégulière et aléatoire. Il apporte aussitôt une réserve : le terme ne prétend pas à la précision. Une même machine peut paraître organisée à l’un et non organisée à l’autre. Ce dont parlera la dernière section pointe déjà ici : la même chose change de classe suivant qui la regarde.
Dans une machine non organisée de type A, il y a beaucoup d’unités semblables. Chacune a deux entrées et une sortie, et l’on peut fixer les connexions au hasard. Dans une machine A finie, les états finissent par se répéter périodiquement. Le type B remplace les éléments de connexion du type A par d’autres. Il sert plus loin dans la discussion de l’entraînement et de l’éducation.
Pour Turing, éduquer une machine ne consiste pas à dessiner d’emblée un produit intelligent et fini. On construit d’abord une machine initiale susceptible de changer, puis on en modifie l’organisation à l’aide de récompenses, de punitions et d’interventions. Il compare le processus à une éducation et rapproche les machines non organisées du cortex du nouveau-né. La voie va à rebours d’une autre pratique du temps : au lieu de tirer d’abord au clair la tâche, puis de l’écrire en règles, fabriquez quelque chose qui puisse changer et cherchez comment lui apprendre. Turing distingue la machine qui sort de l’usine de celle qui a reçu une éducation. La première ressemble à l’état initial non entraîné ; dans la seconde, l’expérience et les interventions extérieures ont changé l’organisation.
Il donne aussi une liste de domaines à essayer. Dans son texte : divers jeux, l’apprentissage des langues, leur traduction, la cryptographie et les mathématiques. Sous la première rubrique figurent les échecs, le morpion, le bridge et le poker.
Ce sont ces mêmes sujets que le domaine retrouvera pendant des décennies.
La dernière section de ces vingt pages a pour titre « L’intelligence comme concept émotionnel ».
Voici son idée : que nous tenions un comportement pour intelligent ne dépend pas seulement de la chose que nous observons, mais aussi, dans une large mesure, de notre état d’esprit et de notre formation. Une fois que nous savons expliquer ou prévoir ce comportement, ou que nous discernons en dessous un procédé tout simple, nous sommes moins disposés à l’appeler intelligent. La même chose peut donc paraître intelligente à l’un, et non à l’autre.
Le mécanisme que cette série suit depuis le début a donc été mis par écrit en 1948 par quelqu’un qui était aux prises avec lui.
Dans les articles précédents, il fallait le lire dans les documents : quelqu’un fixe une limite à la machine ; la machine accomplit la chose dont il s’agissait, et la limite recule un peu. Cette fois il n’y a pas à l’inférer. Quelqu’un l’a écrit.
Dans ces phrases, la limite est du côté de celui qui regarde, non de la machine. Elle se déplace selon ce qu’il sait. Une fois qu’on comprend une chose, on cesse de la compter pour de l’intelligence : c’était déjà écrit dans la dernière partie d’un document interne.
Turing donne aussitôt un exemple. Placez dans une autre pièce quelqu’un qui joue suivant des règles écrites, et ne transmettez à l’adversaire que ses coups. Il peut arriver que l’adversaire ne sache pas s’il a affaire à une personne ou à ces règles sur le papier. Turing précise entre parenthèses qu’il s’agit d’une version idéalisée et qu’il a déjà fait une expérience voisine.
Installer dans une pièce quelqu’un qui suit des règles pour tenir lieu d’une machine : deux ans plus tard, ce dispositif réapparaîtra sous une autre forme.
Le texte ne parut pas cette année-là. On dit que le directeur du laboratoire, mécontent, le traita de rédaction d’écolier. Il fut publié pour la première fois en 1968.
Vingt ans. Les pages où l’on lisait que l’intelligence est un concept émotionnel restèrent vingt ans dans un tiroir.
Durant ces vingt ans, le domaine reçut un nom, ses premiers laboratoires, ses premières prédictions optimistes et son premier reflux. Le texte qui plaçait la limite du côté de celui qui regarde n’y prit aucune part. Quand il parut, ce qu’il décrivait s’était déjà produit plusieurs fois dans le domaine.
VI. Un sonnet
Le 9 juin 1949, au Royal College of Surgeons of England, Geoffrey Jefferson donna la conférence Lister sous le titre « L’esprit de l’homme mécanique ». Neurochirurgien, il parlait de son propre métier. Le texte intégral parut le 25 juin dans une revue de médecine.
La phrase que l’on tronque le plus souvent se trouve à la dernière page. Elle pose cette condition : il faudrait qu’une machine puisse écrire un sonnet ou composer un concerto en raison de pensées et d’émotions qu’elle éprouve, et non parce que des signes se sont trouvés tomber dans un certain ordre.
La suite impose encore une condition : la machine ne doit pas seulement produire une œuvre, elle doit savoir qu’elle l’a produite.
Plus loin, Jefferson développe cette exigence en une liste d’expériences subjectives : éprouver du plaisir à réussir, de la tristesse lorsqu’une lampe grille, réagir à la flatterie, connaître le sexe, être contrarié parce qu’on a fait une erreur ou qu’on n’a pas obtenu ce qu’on voulait, et se mettre en colère.
Ce n’est donc pas une épreuve de forme. Pour la réussir, il ne suffit pas de sortir un sonnet bien réglé. L’exigence a trois étages : écrire à partir de pensées et d’émotions éprouvées, savoir qu’on a écrit la chose, et réunir cette série de plaisirs, de chagrins, de contrariétés et de colères.
Avant ce passage, Jefferson a déjà discuté la capacité des machines à traiter des mots et des problèmes de logique et de mathématiques. Il place la limite principale dans les opinions, la pensée créatrice, la conscience de créer et les sensations. Il ne cherche pas à nier qu’une machine puisse calculer ou manier des signes. Ce point disparaît souvent dans les citations ultérieures. Il reste le fragment sur le sonnet, qui semble dire qu’une machine ne peut pas écrire de poème.
Le lendemain, 10 juin, un journal publia un compte rendu intitulé « L’homme mécanique n’a pas d’esprit ». Le surlendemain, 11 juin, le même journal publia une suite : « Du calcul au sonnet ». Le grand titre de la page était « Le cerveau mécanique » ; une ligne en dessous annonçait la solution d’un problème vieux de trois cents ans.
C’est dans cet article que Turing lui répond. À son avis, on ne peut même pas tracer la limite au sonnet, bien que la comparaison soit peut-être un peu injuste.
Ce qu’il conteste, c’est l’idée de faire du sonnet une limite infranchissable. Il ajoute, ironiquement, que les œuvres d’une machine se prêteraient peut-être mieux à l’appréciation d’une autre machine. Quand l’article de l’année suivante traite, dans une revue de philosophie, de l’objection de la conscience, il cite le passage de cette conférence sur le sonnet et le concerto.
Deux ans et demi passent encore. En janvier 1952, quatre hommes enregistrent une émission intitulée « Peut-on dire que les machines à calculer automatiques pensent ? » Le Third Programme la diffuse le 14 janvier. Les participants sont Newman, Turing, Jefferson et Braithwaite.
Le titre pose une limite de vocabulaire précise. Les objets sont d’abord encore des machines à calculer. C’est le verbe qui fait débat : peut-on dire qu’elles pensent ? Le titre ne commence pas par les baptiser machines pensantes.
À un moment, Braithwaite presse Turing de dire si une machine peut véritablement apprendre par analogie. Turing reconnaît qu’il a laissé beaucoup à l’imagination. La conception comporte donc encore des lacunes. Le projet d’éducation couché sur le papier trois ans auparavant y est toujours.
VII. Ce qui a été construit
Vers mars 1948, dans un hôpital du Gloucestershire, Ross Ashby, qui y travaillait, acheva un appareil.
Il comportait quatre unités électromécaniques couplées, faites de pièces de commande de bombardement de la Royal Air Force dont on disposait après la guerre. Chaque unité avait des éléments de commande magnétiques et électriques mobiles, ainsi qu’une variable décisive que la sortie des autres unités pouvait faire varier. Lorsqu’un paramètre sortait de sa zone de stabilité, les dispositifs de sélection et d’avancement par pas changeaient les paramètres des connexions jusqu’à ce que l’ensemble retrouve un état stable.
Le 24 janvier 1949, un hebdomadaire américain en parla sous le titre « La machine qui pense ». Elle avait moins d’un an. C’était un appareil noir et bas, quatre modules électriques carrés réunis en bloc. Ce qu’on voyait bouger, c’étaient surtout les aimants et les indicateurs.
Après une perturbation, interne ou externe, l’appareil recombinait ses paramètres pour trouver une nouvelle configuration stable. Ce n’était pas un ordinateur capable de traiter le langage, de jouer ou de calculer. Il ne contenait pas de suite d’instructions remplaçable : ses capacités tenaient tout entières à son câblage. On le montra et on en discuta à la neuvième conférence annuelle en mars 1952. La même année, Ashby publia quelque deux cent soixante pages sous le titre Organisation du cerveau : l’origine du comportement adaptatif.
À la même époque, dans un institut de neurologie de Bristol, Grey Walter fabriqua deux petits objets capables de se déplacer : Elmer et Elsie. Il y travailla de Pâques 1948 à Noël 1949. Il donna à cette espèce de machines un nom forgé comme un nom latin d’espèce, qui signifiait à peu près « machine qui va fureter partout ». On les appela couramment tortues à cause de leur coque basse et de leur façon de ramper.
Voici de quoi elles étaient faites : un châssis à roues, quelques tubes électroniques, un élément sensible à la lumière, des moteurs pour la direction et la marche, des contacts de choc sur la coque et une batterie. La coque transparente ou translucide leur donnait la forme d’une carapace et servait d’entrée tactile mécanique quand elles heurtaient un obstacle. Walter avait sous la main des tubes et des moteurs qu’on pouvait se procurer après la guerre.
Si peu d’éléments de commande produisaient pourtant bien des comportements : aller vers la lumière, explorer, changer de direction après un choc, osciller ou éviter une source lumineuse à son approche. Walter voulait montrer la complexité de comportement que peut donner un petit nombre d’éléments analogues à ceux du système nerveux. Il ne s’agissait pas de faire exécuter des raisonnements généraux à une machine suivant un programme de signes. Les tortues ne calculaient pas, ne jouaient pas, ne lisaient pas et ne retenaient rien. Elles couraient seulement dans la pièce, mais à les voir, on les aurait dites vivantes.
En mai 1950, un mensuel de vulgarisation publia son article « Une imitation de la vie ». Il avait déjà fait des démonstrations publiques en 1949 et en 1950. À l’exposition nationale de 1951, il présenta encore trois tortues construites plus tard ; le catalogue reprenait son nom latin. L’une de ce lot, de la taille d’un chat, se trouve aujourd’hui dans un musée.
En novembre 1951, à Manchester, le programme de Dietrich Prinz tourna sur une machine commerciale. Il résolvait des problèmes de mat en deux coups par une recherche exhaustive, sans pouvoir jouer une partie entière. On simplifia aussi les règles à l’intention de la machine : ni roque, ni prise en passant, ni promotion de pion. Elle n’avait pas d’échiquier graphique. Le problème était entré sur un ruban perforé, et la réponse s’imprimait. En 1952, Prinz rendit compte du travail dans « Des robots jouent aux échecs ».
Christopher Strachey écrivit d’abord son jeu de dames pour une autre machine. En 1951, faute de mémoire, cette première version n’allait pas au bout d’une partie. Il transporta ensuite son travail sur la machine commerciale de Manchester. À l’été 1952, elle savait jouer une partie entière de dames. Une personne déplaçait les pièces sur un vrai damier d’après ce que la machine imprimait.
Remontons de quatre ans. Le 21 juin 1948, la petite machine expérimentale de Manchester réussit pour la première fois à exécuter une suite d’instructions stockées en elle. Garder le travail à faire dans la machine sous forme de données que l’on peut à tout moment remplacer, voilà ce qui distingue ces ordinateurs électroniques des appareils dont il faut disposer les instructions à part, à l’extérieur. La machine commerciale fut livrée à l’université de Manchester en février 1951.
VIII. La liste des noms
Alignons les noms employés entre 1943 et 1952. Chacun porte sa limite. Ce ne sont pas des synonymes. Chacun s’applique à des choses différentes. Le nom commun qui vint ensuite résultait du choix de l’un des chemins possibles. Les autres ne furent pas réfutés : il y eut seulement moins de gens pour les suivre. Ce dont ils s’occupaient recula alors hors de vue.
Réseau de neurones. C’est le terme auquel revient l’article de 1943. Les auteurs en fixent eux-mêmes le champ : un réseau fait de neurones formels et de relations synaptiques, que l’on peut décrire en logique propositionnelle et par des expressions récursives. Ils ne parlent pas de réseau de neurones artificiels ; le terme vint après.
Système de calcul automatique. Le terme du texte de 1945. Il désigne un appareil de calcul qui exécute automatiquement des instructions détaillées.
Mécanismes de rétroaction et systèmes de causalité circulaire. C’est le titre officiel de la conférence de mars 1946. Six mois plus tard vient le titre qui contient le mot téléologie. En octobre 1947, on revient à un titre qui commence par la causalité circulaire et la rétroaction. Les trois noms concernent des systèmes biologiques et sociaux ; les trois inscrivent une forme de causalité dans leur titre.
Cybernétique. Le mot est forgé à l’été 1947 et publié en 1948. Wiener l’étend à tout ce que couvre l’exemple du pilote qui tient la barre, qu’il s’agisse de systèmes vivants ou construits. Il ne le limite ni à l’ordinateur électronique numérique, ni au réseau de neurones.
Cerveau électronique. C’est un nom de tribune et de journal, non un terme de constructeur. Le 1er novembre 1946, un journal publia un compte rendu intitulé « Un cerveau électronique ». Il relatait un discours de la veille dans un hôtel de Londres. L’orateur, lord Mountbatten, militaire de la marine, présidait cette année-là la société britannique des ingénieurs radio. Il annonçait que la scène était prête pour le progrès qui ressemblait le plus à un roman de Wells : le cerveau électronique. Wells était l’auteur de La Machine à explorer le temps. Dans le même discours, Mountbatten remarquait que des machines effectivement en service avaient déjà une certaine mémoire. En février de la même année, la presse américaine, en présentant le premier ordinateur électronique, avait répandu à l’envi des images de cerveau et de cerveau géant.
Six jours après ce compte rendu, le 7 novembre, le même journal publia une lettre sous le titre « Cerveau électronique, un terme trompeur : il ne remplace pas la pensée ». Son auteur était Douglas Hartree, celui qui reproduirait la phrase de Lovelace dans son livre de 1949. Dans cette lettre, il dit que ces machines ne peuvent faire avec exactitude que ce que leurs opérateurs leur enjoignent de faire.
Un nom est prononcé à la tribune, paraît le lendemain en tête d’un article, et six jours plus tard quelqu’un écrit dans le même journal qu’il est mauvais. La conférence de 1949 s’opposera à l’assimilation de la machine au cerveau sur le fond. C’est une autre affaire. La lettre s’en prend au nom lui-même.
La phrase de la lettre contient un « que » restrictif. Trois ans plus tard, dans la phrase vieille de plus d’un siècle qu’il reproduit dans son livre, il ne figure pas.
Machine qui pense. Le titre de l’hebdomadaire en janvier 1949 à propos de l’appareil d’Ashby. La même année, Edmund Berkeley publia Cerveaux géants, ou machines qui pensent.
Homme mécanique. Le terme du titre de la conférence de 1949. Cerveau mécanique, le grand titre du journal deux jours plus tard.
Machines intelligentes. Titre du document interne de 1948. Comme il ne fut pas publié cette année-là, ce nom n’entre sur la scène publique qu’en 1968.
Automate. Le mot paraît dans le titre d’une communication à un colloque de 1948, parue officiellement en 1951.
Machines à calculer et intelligence. Le titre de l’article de 1950. Ni intelligence artificielle, ni intelligence des machines.
Machines à calculer automatiques. Le terme de l’émission de 1952. Les premiers mots ne changent pas ; le désaccord tout entier porte sur le verbe.
Avant de recevoir un nom, un domaine en avait eu au moins dix.
Et ces noms ne sont pas répartis uniformément. Les constructeurs de machines disent systèmes de calcul automatique ou machines à calculer automatiques. Les théoriciens disent réseaux de neurones, automates ou cybernétique. Les journaux disent cerveaux électroniques, cerveaux mécaniques ou machines qui pensent. Trois groupes parlent chacun à sa façon et ne tracent pas la limite au même endroit. Les constructeurs la tracent au plus près, les journaux au plus large ; les théoriciens sont entre les deux, en désaccord les uns avec les autres. Avant de fixer une limite commune, il faut que quelqu’un réunisse ces noms sous un seul. Les réunir, c’est déjà tracer une limite. Qui vient dedans, qui reste dehors : ce n’est plus une affaire de description, mais d’appartenance.
Et les deux passages qui situaient la limite du côté de celui qui regarde ne circulèrent pas à l’époque.
L’un est dans la dernière section des vingt pages. Dès qu’une chose est comprise, prévue avec exactitude et qu’on a discerné la manière dont elle fonctionne, elle cesse de sembler intelligente. La même chose change de classe avec le regard. Ces pages sont restées vingt ans dans un tiroir.
L’autre se trouve dans la première section de l’article de 1950 sur les échecs. C’est la troisième raison de choisir ce sujet : on estime généralement que bien jouer aux échecs demande de la réflexion. Cette explication du choix du sujet tient en une phrase dans un article technique. Par la suite, on cite surtout le nombre dix à la puissance cent vingt. Un nombre est plus facile à retenir, plus facile à employer, et il n’oblige pas à prendre parti. Pendant des décennies, ce nombre sert à dire la difficulté du problème. La phrase dit pourquoi on a choisi le problème. Ils ne servent pas à la même chose.
Pendant ces années, le reste n’a été ni pris ni cédé. Deux personnes l’ont montré, chacune une fois, puis leurs phrases sont retournées dans les documents qui les contenaient. L’une est restée vingt ans dans un tiroir, l’autre dans la première section d’un article sur les échecs. Le reste ne peut pas être éliminé. On peut pourtant passer longtemps sans en parler. Qu’on n’en parle pas ne veut pas dire qu’il n’est pas là. On en a pour preuve que, tous les quelques ans, quelqu’un le dit de nouveau, autrement. En 1843, on dit que la machine ne prend pas d’initiative ; en 1887, qu’elle ne sait pas commencer ; en 1948, que celui qui regarde en décide ; en 1950, que la chose est réputée demander de la réflexion. Ce ne sont pas quatre fois la même chose, mais les quatre phrases indiquent le même côté.
Dans les textes de Turing, de Shannon, de Wiener, de McCulloch et Pitts, de Jefferson, les phrases sur ce qu’une machine peut penser se présentent avec une question, une condition, une limite de définition ou un critère de comportement.
Aucune n’est nue.
Le nom n’est pas encore arrivé, et l’on discute depuis six ans. Ceux qui discutent ont entre les mains des tortues de bois, une boîte noire faite de quatre modules électromécaniques, une machine commerciale qui résout des mats en deux coups, un texte interne sur l’éducation des machines, un article sur la manière de programmer les échecs, et un livre vendu à vingt mille exemplaires. Ils attendront encore quatre ans le nom qu’il leur faut. Quand il arrivera, certains de ces dix noms y entreront, d’autres seront écartés, d’autres encore ne paraîtront plus que dans les journaux. Quant aux deux phrases qui plaçaient la limite chez celui qui regarde, personne ne les emporta.
On construit encore des machines. Quant à savoir où passe la limite, chaque génération le dit à nouveau.