La loi des cycles de taille et de construction · Série IA · 05

Turing remplace « Les machines peuvent-elles penser ? » par une autre question

Han Qin · Environ 29 minutes · Publication

I. Je remplacerai cette question par une autre

En octobre 1950, le premier article d’une revue trimestrielle occupe vingt-huit pages. Le titre est « Machines à calculer et intelligence ». L’auteur est Alan Turing.

La revue porte sur la psychologie et la philosophie. Elle est dirigée par le philosophe Gilbert Ryle. Les autres articles du numéro sont de philosophes. C’est donc à une revue de philosophie qu’un mathématicien a soumis son manuscrit.

Turing est alors maître de conférences au département de mathématiques de l’université de Manchester. L’automne et l’hiver précédents, on y a tenu plusieurs discussions sur l’esprit et les machines. Parmi les participants figurent le mathématicien Newman, Polanyi, chimiste de formation, le neurochirurgien Jefferson et un zoologiste.

L’article a sept sections, sans résumé, sans illustration et sans bibliographie à la fin. Les références sont dans le texte : Gödel, Church, Kleene, Rosser, le résultat de Turing lui-même en 1937, la conférence de Jefferson de 1949, les notes de Lovelace sur la machine analytique et le livre de Hartree de 1949. Babbage apparaît lui aussi, à titre historique. Un mathématicien, dans une revue de philosophie, cite pour moitié des logiciens, et pour l’autre un neurochirurgien et une comtesse du XIXe siècle.

Sa première phrase pose cette question : les machines peuvent-elles penser ?

Turing dit aussitôt que pour y répondre de la manière habituelle, il faudrait commencer par définir les mots machine et penser. Et si l’usage courant devait en fixer le sens, il faudrait déterminer aussi bien le sens de la question que la réponse par une enquête statistique de type sondage d’opinion. C’est absurde, dit-il.

Ce n’est pas la définition qu’il refuse. Il refuse de l’asseoir sur un décompte des usages. Si l’on fixe le sens d’un mot en comptant les gens, la réponse à la question dépend de combien s’accordent, à cet instant, à dire que la machine pense.

Il écrit donc : « Je remplacerai cette question par une autre. »

Il ne dit pas que la première question est fausse, qu’il ne faut pas la poser, ou que la nouvelle est identique à l’ancienne. Il dit qu’elle lui est étroitement liée et qu’elle est formulée dans des termes relativement peu ambigus.

Étroitement liée ne veut pas dire identique. Relativement peu ambigu ne veut pas dire sans ambiguïté. Turing met lui-même ces deux réserves. Depuis plus de soixante-dix ans, on les cite rarement ensemble.

La phrase bien connue, selon laquelle la question est trop dénuée de sens pour mériter une discussion, n’est pas ici. Elle est au début de la sixième section. Le jeu a déjà été décrit, et la définition formelle de la machine a déjà été donnée. L’ouverture est nettement plus mesurée. Reportez la phrase de la sixième section au premier paragraphe, et le ton de l’article change : au lieu de dire « je vais m’y prendre autrement », Turing semble dire que la première question ne mérite pas qu’on en discute.

II. Le jeu tel qu’il était

Le jeu de la première section met en présence trois personnes.

A est un homme. B est une femme. C pose les questions et peut être un homme ou une femme.

Il ne s’agit pas de distinguer une personne d’une machine, mais un homme d’une femme. Les trois participants sont des êtres humains. Il n’y a pas de machine dans cette version. Elle arrive au paragraphe suivant, prend la place de quelqu’un et hérite de son rôle.

C est dans une pièce séparée. Il ne connaît les deux personnes qu’il ne peut pas voir que par des signes, appelons-les X et Y. À la fin, il doit déterminer lequel désigne l’homme et lequel désigne la femme.

C peut interroger les deux. La première question donnée en exemple par Turing est celle-ci : X pourrait-il me dire quelle longueur ont ses cheveux ?

A, l’homme, a pour rôle de brouiller les pistes. Il doit amener C à se tromper. Dans l’exemple de Turing, A décrit une coiffure féminine. Dans cette version, le geste central est l’imitation trompeuse : quelqu’un se fait passer pour un autre genre de personne, tandis qu’une deuxième personne s’efforce de dire vrai et que la troisième distingue l’une de l’autre.

B, la femme, reçoit le rôle contraire : aider C. Sa meilleure stratégie, suggère Turing, est probablement de dire vrai, jusqu’à déclarer qu’elle est la femme. Mais A peut en faire autant, remarque-t-il aussitôt.

Pour éviter que la voix ne trahisse leur identité, ils doivent répondre par écrit, de préférence à la machine. L’arrangement idéal relie les pièces par un téléscripteur. Deux pièces, une ligne. Pas de visage, pas de voix ; il ne reste que les caractères frappés.

Voici le pas suivant.

On met la machine à la place de A.

La machine prend donc le rôle de l’homme dont la tâche était de tromper la personne qui pose les questions. Elle ne remplace ni B ni C, et elle n’entre pas comme quatrième participant.

Dans la version qu’on raconte souvent ensuite, il y a un humain d’un côté, une machine de l’autre, et l’arbitre doit reconnaître l’humain. Dans la version originale, la machine prend la place de quelqu’un qui joue déjà un rôle. Elle doit faire la même chose que lui : amener C à se tromper.

Une fois le remplacement fait, la question est comparative. C se trompera-t-il aussi souvent avec la machine que lorsque les deux personnes cachées étaient un homme et une femme ? La référence n’est pas la vérité, mais le résultat d’une autre imitation. La machine a pour point de comparaison non pas un être humain quelconque, mais un homme qui se fait passer pour une femme.

Ce sont ces questions, dit Turing, qui remplacent celle de savoir si les machines peuvent penser.

La première section compare les taux d’erreur dans deux versions du jeu. On ne peut pas la réduire à la question de savoir si l’arbitre distingue un ordinateur d’une personne. Cela dit, le texte ne fige pas la scène initiale. À la cinquième section, Turing envisage déjà de mettre un homme à la place de B. La formule qui s’imposa plus tard laisse de côté la comparaison entre homme et femme de la première section, mais elle n’invente pas de toutes pièces un autre questionnement.

Les règles de la première section ne fixent ni durée, ni pourcentage, ni nombre ou sujet des questions, ni qualification de la personne qui les pose. Nulle part elles ne disent qu’à partir d’un certain score la machine doit être tenue pour pensante.

La première section donne un dispositif, pas un sujet d’examen.

Le nom test de Turing n’apparaît pas dans l’article. Turing parle de jeu de l’imitation, de critère, d’expérience et de test. Les mots n’ont pas le même poids, et il les emploie tous les quatre. Un critère met une limite ; une expérience consiste à faire quelque chose ; un test est une épreuve ; un jeu se joue. Turing ne tranche pas une fois pour toutes entre les quatre. Le nom propre a été donné après coup.

III. Deux prédictions

Au début de la sixième section, il sépare ses convictions des faits établis et précise que ce qui suit relève de la conjecture.

Vient alors le chiffre que l’on cite depuis plus de soixante-dix ans.

Voici en substance ce qu’il dit : dans une cinquantaine d’années, on devrait pouvoir donner à un ordinateur une mémoire de l’ordre du milliard et le programmer de telle façon qu’après cinq minutes d’interrogation une personne de niveau moyen n’ait pas plus de soixante-dix pour cent de chances de donner la bonne réponse.

Cinquante ans, cinq minutes, soixante-dix pour cent : les trois nombres sont ici, pas dans les règles de la première section. Ce sont pourtant ceux qu’ont surtout repris les gens qui ont fait du jeu une épreuve. Dans le texte, ce sont les paramètres d’une conjecture, non les clauses d’un règlement.

Et la phrase qui vient tout de suite après est une autre prédiction.

D’ici à la fin du siècle, écrit-il, l’usage ordinaire des mots et les opinions des gens instruits auront changé à tel point que dire qu’une machine pense ne suscitera plus généralement de contradiction.

Ces phrases sont voisines, mais elles ne disent pas la même chose. La première est une prédiction empirique sur les résultats du jeu, avec des conditions de mémoire, de temps et de probabilité. La deuxième porte sur l’usage de la langue et l’opinion des gens instruits. Pour vérifier la première, on peut prendre une machine et un chronomètre. Pour vérifier la seconde, il faut écouter les gens parler.

Sur la même page, quelqu’un fait deux prédictions, l’une sur les machines, l’autre sur les mots. Cette limite qui se déplace à mesure que changent ce qu’on sait et ce qu’on dit, que les quatre articles précédents suivaient, se retrouve ici formulée en prédiction par l’un des intéressés. Turing ne dit pas que la machine franchira une limite. Il dit que les gens parleront autrement.

Dans le premier article, un mot s’ajoutait à une phrase en cours de route. Dans le deuxième, une réserve disparaissait d’un constat technique. Dans le quatrième, un manuscrit resté dans un tiroir plaçait la limite du côté de celui qui regarde. À présent, quelqu’un en fait une prédiction et la fait porter directement sur l’emploi des mots.

Mais la deuxième prédiction n’annule pas la première. À la septième section, Turing dit que pour étayer de façon satisfaisante l’idée de la sixième, il faudra réellement faire l’expérience à la fin du siècle. La prédiction sur la langue ne dévore pas la prédiction sur le jeu. Les deux restent.

C’est aussi au début de la sixième section qu’il écrit la phrase si souvent citée : la question première, prise à la lettre, est trop dénuée de sens pour mériter une discussion.

Il écrit au même endroit une phrase bien moins souvent répétée. On ne peut pas abandonner entièrement la forme de départ, car les gens ne s’accorderont pas sur la pertinence de ce remplacement.

C’est le geste de cet article.

Une question qu’on ne sait ni atteindre ni mesurer est remplacée par une autre, à portée de main et mesurable. On n’a ni répondu à la première, ni réfuté la question, ni déclaré qu’elle n’existe pas. On l’a mise de côté. Celui qui l’a déplacée écrit lui-même que l’on peut contester ce déplacement. Il ne faut donc pas jeter sa forme première.

C’est là que se produit la colonisation. Personne ne prend les terres de personne. Mais à côté d’un terrain qu’on ne peut pas mesurer, quelqu’un en trace un autre qu’on peut mesurer, et l’essentiel de la discussion passe sur le second. Le premier est toujours là. Il y a seulement moins de gens pour regarder de ce côté.

Le pas n’est pas celui des articles précédents. Auparavant la construction réussissait quelque chose, et la limite reculait. Cette fois la construction n’a encore rien accompli. On a seulement changé ce qu’on soumet à la mesure. En 1950, aucune machine ne savait jouer à ce jeu. Pas une. Ce qu’on a remplacé, c’est la question, pas les capacités de la machine. Dans les quatre articles précédents, derrière chaque recul, il y avait quelque chose de réussi. Ici, il n’y en a pas. C’est l’instrument de mesure que l’on déplace.

La sixième section, qui occupe plus de la moitié de l’article, répond directement à des objections sur la possibilité que les machines pensent. Turing ne supprime pas la question : il discute avec elle pendant douze pages. Quelqu’un déclare qu’une question ne mérite pas de discussion, puis répond en douze pages à neuf objections qui la concernent. Mettez ces deux gestes côte à côte. Ce qu’il juge, ce n’est pas l’importance de la question ; c’est l’impossibilité de lui répondre directement sous sa forme littérale.

IV. Neuf objections

À la sixième section, Turing énumère neuf objections et y répond tour à tour.

La première est théologique. Penser appartient à l’âme immortelle que Dieu donne aux humains. Les animaux et les machines n’ont pas cette âme, donc ne pensent pas.

Turing ne cherche pas à démontrer le matérialisme. Il répond dans le cadre de son adversaire : limiter de la sorte le pouvoir de Dieu pose déjà problème. On peut comparer la construction d’une machine pensante à la procréation ; l’être humain y est l’instrument de la puissance créatrice de Dieu, non son rival. Turing dit que son propos relève en partie de la spéculation théologique. Il ne se montre pas plus catégorique que l’adversaire : on lui parle théologie, il parle théologie. Sa réponse varie d’une objection à l’autre, mais à chaque fois il se tient sur le terrain de l’autre. C’est une manière de débattre : ne pas changer de terrain, répondre dans les limites que l’autre a posées. Or l’article tout entier propose justement un changement de terrain. Les deux gestes coexistent : Turing demande qu’on pose la question autrement et répond point par point sous son ancienne forme.

La deuxième est l’objection de la tête dans le sable : les conséquences de machines qui pensent seraient si effrayantes qu’on espère, et qu’on croit, que c’est impossible.

Turing y voit une position affective, compréhensible en particulier chez ceux qui font reposer la supériorité humaine surtout sur l’intelligence. Il la trouve trop peu substantielle pour appeler une réfutation logique. De la compréhension, pas une concession. Des neuf objections, c’est la seule dont il dise expressément qu’elle ne mérite pas de réfutation logique.

La troisième est l’objection mathématique.

Elle renvoie à des résultats de 1931 à 1937, dont le sien en 1936. Ces résultats montrent qu’une machine qui suit pas à pas des règles fixes, si grande soit-elle, rencontrera toujours des questions auxquelles elle ne sait pas répondre. Ce n’est pas un manque de moyens techniques. C’est démontré.

Turing concède ici quelque chose, et le concède nettement. Toute machine particulière de ce type a sa limite. On peut la mettre en défaut avec une question à laquelle elle ne sait pas répondre. C’est précisément le sujet du troisième article : la limite n’est pas tracée par quelqu’un ; elle se déduit des règles de la construction.

Sa réponse porte sur la comparaison. Personne n’a prouvé que l’intelligence humaine est dépourvue de limites correspondantes. Et les gens se trompent aussi.

Des neuf objections, c’est une de celles dont il dit qu’on ne peut pas les écarter d’un trait. Mais il admet les limites mathématiques d’une machine particulière, non que les humains aient de ce fait des facultés sans égales. Entre les deux, il y a une prémisse que personne n’a démontrée.

La quatrième est l’argument de la conscience.

Turing cite ici la conférence de juin 1949. Il commence à l’exigence que la machine écrive un sonnet ou un concerto à partir de pensées et d’émotions réellement éprouvées. Il continue jusqu’à l’exigence qu’elle sache qu’elle l’a écrit et à la liste : joie du succès, tristesse, réaction à la flatterie, erreur, sexe, colère et frustration.

Il n’omet aucun des trois étages du passage cité dans le quatrième article.

Sa première réponse est le problème de l’esprit d’autrui. Si l’on ne reconnaît la conscience d’une machine qu’à condition d’avoir un accès direct à ce qu’elle éprouve, appliquer le même critère avec constance aux autres personnes nous conduit à penser qu’on ne peut connaître que sa propre conscience.

La deuxième réponse est un oral imaginaire. Turing fait interroger une machine sur un poème. Puis il demande si, données par une personne, de telles réponses passeraient pour un indice.

Il ne nie pas que la conscience soit une difficulté. Il dit explicitement qu’elle recèle une énigme. Seulement, on n’a pas à résoudre ces énigmes avant de répondre à la question de la machine. Il ne résout pas le problème de la conscience. Il le reporte. C’est la même manière de procéder que dans l’article entier.

La cinquième objection invoque différentes facultés qui feraient défaut.

Elle comporte une liste. Certains disent qu’une machine ne pourra jamais être bonne, ingénieuse, belle, amicale, entreprenante, avoir de l’humour, discerner le bien du mal, se tromper, tomber amoureuse, savourer des fraises à la crème, se faire aimer, apprendre par l’expérience, employer les mots à propos, prendre sa propre pensée pour objet, manifester autant de variété dans sa conduite qu’une personne ou faire quelque chose de véritablement nouveau. Seize choses, relevées par Turing dans ce qu’on disait, vers 1950, ne pouvoir jamais être fait par une machine.

Ces affirmations, dit-il, viennent généralement sans preuve. On les tire souvent des quelques machines très limitées que l’on connaît. C’est une remarque sur l’induction : que les machines qu’on a vues ne sachent pas faire une chose n’implique pas qu’aucune ne le puisse. En 1950, il n’y avait à voir qu’une dizaine de machines au monde, la plupart en laboratoire.

Certains points, comme le plaisir des fraises à la crème, le fait de tomber amoureux et les sensations qui vont avec, lui paraissent des versions déguisées de l’objection de la conscience, non des limites établies séparément.

Quant à l’erreur, il distingue la défaillance du fonctionnement et l’erreur de conclusion. On peut faire en sorte qu’une machine donne à dessein des réponses trompeuses. Elle peut aussi tirer une conclusion fausse tout en fonctionnant exactement comme prévu.

Il dit aussi que la machine peut prendre pour objet ses propres opérations ou son propre programme. S’agissant de la variété du comportement, il met en avant le champ considérable qu’ouvre une mémoire suffisante. Il ne concède pas qu’un mécanisme fini ait nécessairement un comportement monotone.

La septième objection part de la continuité du système nerveux : ce n’est pas une machine à états discrets. Des variations continues, même minimes, peuvent avoir de l’importance. Son organisation physique diffère donc de celle d’un ordinateur numérique.

Turing admet ce contraste physique, mais rappelle que le jeu juge ce qui sort de la machine. Un appareil continu, par exemple un analyseur différentiel, peut être approché par une machine numérique d’assez près pour que l’interrogateur ne puisse pas déduire des réponses la nature de l’appareil qui les donne.

Il admet que le système nerveux n’est pas forcément à états discrets. Il n’admet pas que cette différence fournisse à elle seule un moyen de les distinguer par l’observation dans ce jeu.

Voilà la méthode de l’article appliquée à une objection précise. Dans ce jeu, une différence qu’on ne peut observer de l’autre côté de la porte ne compte pas comme différence. C’est à la fois la force de la méthode et son prix.

La huitième objection part du caractère informel du comportement : un nombre fini de règles associant une situation à une action ne peut épuiser la conduite humaine ; une machine qui obéit à des règles ne peut donc pas la reproduire.

Turing admet explicitement le point plus étroit : il n’y a pas de code de conduite simple qui dise à quelqu’un ce qu’il faut faire en toute circonstance.

Il distingue ensuite les règles de conduite des lois du comportement. L’impossibilité de trouver une description complète et explicite de ces lois ne prouve pas qu’elles n’existent pas. Une chose est le code que l’on suit en agissant, une autre la loi qui sert à décrire ce que l’on fait. Le premier manque ; la seconde ne manque pas forcément.

C’est dans les troisième, septième et huitième objections qu’il fait le plus de concessions, et elles concernent toutes le même genre de choses : des limites physiques ou formelles précises. Nulle part il ne concède qu’il existe quelque chose que les gens ont et que les machines n’auront nécessairement pas.

Il concède chaque fois une limite précise que l’on peut montrer. Il refuse chaque fois le pas qui mène de ces limites à une conclusion sur l’être humain.

V. La sixième objection

La sixième porte le nom d’objection de Lady Lovelace.

Pour connaître en détail la machine analytique de Babbage, écrit Turing, le meilleur document est l’ensemble de notes de Lady Lovelace, qu’il date de 1842. Elles parurent en 1843.

Il en tire deux propositions. La machine analytique n’a aucune prétention à être à l’origine de quoi que ce soit. Elle peut faire ce que nous savons lui ordonner d’exécuter.

Ce sont les deux phrases de la dernière note, dans le premier article de cette série. Cent sept ans plus tard, une revue trimestrielle de philosophie les imprime de nouveau en tête d’une objection à laquelle il faut répondre.

Dans l’original, le premier énoncé contient un mot d’insistance que Turing ne reprend pas. Lovelace poursuivait au-delà de ces deux phrases. Elle disait encore que la machine pouvait influer indirectement sur les sciences et que les opérations ne devaient pas nécessairement se borner aux nombres. Les deux points restent en dehors de la citation.

Turing cite ensuite le livre de Hartree de 1949. Hartree avait envisagé qu’une machine munie d’un dispositif d’apprentissage analogue aux réflexes conditionnés puisse compliquer la question de savoir si elle pense par elle-même. Il estimait en même temps que les machines alors construites ou projetées ne présentaient pas le caractère en question.

Turing partage le jugement de Hartree sur les éléments dont on disposait alors. Il n’accepte pas qu’on en tire une conclusion plus forte : que ce caractère soit impossible en principe.

Le premier article disait la marge que Hartree avait laissée en citant la phrase. Turing la reproduit avec le reste et dit être entièrement d’accord. Les précautions des trois auteurs s’alignent. Lovelace parle de la machine qui n’existait pas alors ; Hartree des machines qui existaient ou se préparaient en 1949 ; Turing de ces mêmes machines. Tous les trois parlent du présent. Aucun ne parle de toujours.

Turing donne ensuite deux formes plus fortes à l’objection.

La première : les machines ne pourront jamais rien faire de vraiment nouveau.

La seconde : elles ne pourront jamais nous surprendre.

À la seconde il répond en une phrase : « Les machines m’ont surpris un très grand nombre de fois. »

Cette phrase déplace la discussion. Au départ on se demandait si la machine avait une certaine faculté. Après le déplacement, on se demande si les gens ont calculé jusqu’au bout ce qui se déduit des règles qu’ils ont eux-mêmes fixées.

Turing explique qu’il arrive souvent qu’on n’ait pas calculé les conséquences des règles et des données qu’on a fournies. On a fixé les règles ; on n’a pas fini d’en calculer les effets.

Près de la fin de la septième section, une note de bas de page accompagne une formule qu’il vient d’employer : « Les machines ne peuvent faire que ce que nous savons leur ordonner d’exécuter. » La note renvoie à la phrase de Lovelace et précise que l’original ne comporte pas la restriction « ne… que ».

Pour la première fois dans cette série, les documents referment la boucle. La phrase du premier article fut écrite en 1843 et citée cent sept ans plus tard. Plus loin dans le même article, celui qui cite indique de sa main qu’en chemin un mot s’est ajouté.

Et dans ce même article, lui-même se trompe d’un an sur l’année de publication des notes.

En corrigeant la façon dont d’autres avaient rapporté un document, quelqu’un s’en rappelle lui-même un détail de travers. Les deux choses sont imprimées dans le même article de vingt-huit pages, à neuf pages de distance.

VI. Une pièce à l’abri de la télépathie

La neuvième objection porte sur la perception extrasensorielle.

Elle disparaît souvent des récits ultérieurs. Elle occupe deux pages du texte, vient en dernier et compte parmi les objections auxquelles Turing accorde le plus de poids.

Il nomme quatre sortes de phénomènes : la télépathie, la clairvoyance, la précognition et la psychokinèse.

Il dit d’abord que le sujet gêne son argument et qu’il préférerait que ces phénomènes n’existent pas. Puis il écrit le contraire de ce souhait. À ses yeux, à l’époque, les éléments statistiques en faveur de ces phénomènes, du moins de la télépathie, sont écrasants. Il ne rejette pas la question comme une sottise. Il écrit séparément le souhait et le jugement, le souhait en premier.

Et des neuf objections, c’est une de celles qu’il prend le plus au sérieux. Il la tient pour forte, pour une raison précise : si ce genre de phénomènes est possible, on ne peut plus faire l’hypothèse habituelle d’une séparation des moyens d’information de l’interrogateur et des personnes interrogées.

Ce que l’objection attaque, ce n’est pas la capacité de penser de la machine. C’est la pièce. La porte sépare-t-elle vraiment les deux côtés ? Toute la méthode repose sur l’isolement, qui selon cette objection pourrait ne pas tenir. Le défaut le plus grave d’une règle à mesurer n’est pas dans ses graduations, mais dans ce qu’elle mesure, ou ne mesure pas, réellement. Voilà de quoi parle cette section. Et c’est celui qui a construit la règle qui en parle.

Suivant cette hypothèse, Turing donne un exemple chiffré. L’interrogateur montre des cartes et demande leur enseigne. Une personne douée de télépathie peut en trouver cent trente sur quatre cents, tandis qu’une machine qui choisit au hasard pourrait, une fois, en trouver cent quatre. La différence suffit pour que l’interrogateur reconnaisse la personne à son résultat. Le jeu ne distingue plus qui sait penser, mais qui sait faire autre chose.

Turing ajoute une difficulté à son propre exemple. Si l’interrogateur peut agir par psychokinèse sur le dispositif qui donne à l’ordinateur ses nombres aléatoires, même le résultat du hasard cesse d’être une référence intacte. Et la clairvoyance permettrait de connaître l’identité sans passer par les questions et réponses habituelles.

La parade proposée est d’isoler les participants, par exemple dans une pièce à l’abri de la télépathie.

Une pièce à l’abri de la télépathie. La phrase est imprimée dans une revue trimestrielle de philosophie en 1950.

Voilà la place de cette section. L’article remplace une question impossible à mesurer par un jeu que l’on peut mesurer. La section dit : il y a peut-être dans ce jeu mesurable une prémisse qui ne tient pas. Turing ne la supprime pas. Il ajoute une pièce au jeu.

Quand un dispositif de mesure arrive à un point où il ne sait plus mesurer juste, il peut le faire disparaître par définition, ne pas en parler ou changer de dispositif. Turing choisit la troisième voie.

Cette section explique donc ce que fait l’article lui-même. Turing sait sur quoi repose sa méthode, et sait que l’appui n’est peut-être pas solide.

Par la suite, lorsqu’on raconte la méthode, cette section est généralement absente.

VII. La machine-enfant

La septième section parle des machines qui apprennent.

Turing commence par distinguer trois sources dans la formation de l’esprit adulte : l’état initial à la naissance, l’éducation et les autres expériences, qui ne comptent pas comme éducation. Des trois, seule l’éducation est un point où quelqu’un d’autre peut intervenir. C’est elle qu’il veut prendre en charge, laissant la première au programmeur et la troisième au hasard et au milieu.

Il propose ensuite de retourner le problème habituel de la programmation. Plutôt que de simuler directement l’esprit d’un adulte, construisons quelque chose qui corresponde à celui d’un enfant, puis donnons-lui une éducation.

Son image est celle d’un cahier neuf. On suppose que l’enfant a relativement peu de mécanismes inscrits d’avance et davantage de pages blanches. Turing précise aussitôt qu’un vrai cerveau d’enfant a peu de chances d’être aussi simple. Il donne l’image et écrit lui-même où elle cesse de valoir.

Il distingue deux tâches expérimentales liées : fabriquer le programme-enfant et concevoir son éducation. Il faudra, prévoit-il, recommencer plusieurs fois ; on n’écrira pas le bon programme à la première tentative. C’est le chemin du texte interne de 1948 : ne pas concevoir d’emblée un produit achevé, mais faire une machine qui change et lui apprendre ensuite. Deux ans ont passé. Le texte est toujours inédit, mais son idée paraît ici dans d’autres termes.

Il compare les modifications successives de la machine-enfant à l’évolution biologique. La structure correspond au matériel héréditaire, les modifications aux mutations, le jugement de l’expérimentateur à la sélection naturelle.

Dans cette correspondance, c’est l’expérimentateur qui se tient du côté de la sélection naturelle. La décision de garder ou non une modification n’est pas déléguée. Dans l’évolution, personne ne tranche ; ici, quelqu’un tranche. Dans l’éducation imaginée par Turing, il y a toujours quelqu’un qui enseigne.

Il n’exige pas que l’éducation reproduise toutes les voies dont dispose un enfant. Une communication suffisante dans les deux sens peut, en principe, soutenir une part importante de l’éducation. Turing prend l’exemple d’Helen Keller pour montrer que de graves restrictions sensorielles n’empêchent pas nécessairement le développement de l’intelligence. Il ne veut donc pas faire pousser des yeux ou des oreilles à la machine, mais ouvrir un canal suffisant dans les deux sens.

Dans son projet d’enseignement par récompense et punition, la probabilité de revoir l’événement ou le schéma qui a précédé immédiatement une punition diminue. Ce qui précède immédiatement une récompense est renforcé.

Le modèle, dit-il, n’a pas besoin de supposer que la machine éprouve vraiment du plaisir ou de la douleur. Des signaux de commande peuvent tenir lieu de récompense et de punition en modifiant le comportement à venir.

Voilà le deuxième remplacement de l’article, bien plus petit. Deux mots qui comportent un ressenti sont remplacés par deux sortes de signaux qui n’en comportent pas, et le projet d’enseignement tient toujours. C’est le même procédé qu’en 1936, quand un billet sur le papier avait remplacé l’état de l’esprit.

Turing dit avoir essayé cette méthode, mais sans succès complet : il s’y est pris de manière trop peu conventionnelle. C’est un des rares comptes rendus d’expérience à la première personne de l’article, et ce qu’il rapporte, c’est ce qui n’a pas marché.

Les récompenses et les punitions ne suffisent pas. Il ajoute des canaux sans contenu affectif qui transmettent des ordres, des propositions et un langage symbolique. On n’arrive pas à enseigner par la seule récompense et la seule punition. Il faut encore pouvoir parler à la machine.

Quant au hasard, Turing estime bon de ménager une part aléatoire dans la machine qui apprend. Sans elle, une recherche parcourrait méthodiquement beaucoup de mauvaises possibilités avant d’en arriver à une bonne. Il compare cette part à la mutation dans l’évolution. Le hasard fournit des possibilités ; la sélection ou l’évaluation garde celles qui servent.

Dans le dernier paragraphe, Turing prévoit que les machines finiront par rivaliser avec les humains dans tous les domaines purement intellectuels. Où commencer ? Il indique deux voies. On peut partir d’une activité abstraite comme les échecs. On peut aussi équiper la machine des meilleurs organes sensoriels disponibles, puis lui apprendre à parler et à écrire l’anglais comme on le ferait à un enfant. Il ne choisit pas entre les deux.

Les deux voies ont été suivies. L’une mène aux échecs et aux jeux formels ; l’autre, au langage. Dans les décennies suivantes, le centre du domaine s’est déplacé plusieurs fois de l’une à l’autre.

Voici en substance la dernière phrase : nous ne voyons pas très loin devant nous, mais dans ce peu que nous voyons, il y a déjà beaucoup à faire.

VIII. Après

La première réponse publique est un texte court paru en juillet 1951 dans la même revue. Leonard Pinsky l’intitule « Une machine peut-elle penser qu’une machine pense ? »

Ce n’est pas une théorie concurrente, mais une satire. Prenons, propose-t-il, un ordinateur électronique ou numérique très complexe de la sorte dont parle Turing, abonnons-le à la même revue et voyons comment il réagit au débat sur les machines qui pensent. Ce serait une expérience en sens inverse. Pinsky prend la proposition de Turing pour une expérience cruciale qu’on voudrait réellement faire, puis attaque sa force probante par la parodie.

La première réponse publique est donc une plaisanterie. En 1951, pour les lecteurs de la revue philosophique, la proposition fut d’abord une chose dont on pouvait plaisanter.

En avril 1952, un autre périodique de philosophie publia un article du philosophe Wolfe Mays intitulé « Les machines peuvent-elles penser ? » Mays vivait lui aussi à Manchester, comme Turing.

Voilà les réponses qu’on peut nommer pendant la première décennie : une plaisanterie, un article écrit dans la même ville et quelques échanges épars. Le texte qu’on appellerait plus tard un point de départ n’avait d’abord fait que ces quelques remous.

Le 15 mai 1951, Turing donna au Third Programme une causerie intitulée « Les ordinateurs numériques peuvent-ils penser ? » Il y envisageait, plus directement que dans l’article de 1950, de parler de l’ordinateur numérique comme d’un cerveau. Dans une autre causerie de la même année, il imaginait une tout autre échelle de temps. Si un jour l’intelligence des machines dépassait celle des humains, cela arriverait dans les mille ans à venir, et non dans quelques millions d’années.

En janvier 1952, quatre personnes discutèrent dans la même émission sous le titre « Peut-on dire que les machines à calculer automatiques pensent ? » C’étaient Newman, Turing, Jefferson et Braithwaite.

Il y a deux passages dans cette émission. Dans le premier, Turing dit qu’il ne veut pas définir la pensée. Il ajoute que la comparaison qu’il propose n’a pas besoin d’une telle définition.

Dans l’autre, le dispositif a changé. En 1950, il y avait une personne pour interroger. En 1952, il y a un jury, et la tâche consiste à en amener une proportion appréciable à prendre la machine pour un être humain.

En deux ans, l’auteur avait remplacé dans le dispositif central une personne par plusieurs.

Le jugement d’une personne qui interroge et celui d’une proportion appréciable d’un groupe ne sont pas la même chose. Le premier est une distinction à faire ; le second ressemble à un vote. Or, deux ans plus tôt, Turing s’opposait précisément à ce que le sens d’un mot soit fixé par les statistiques. Dans un cas, on vote sur la manière d’employer un mot ; dans l’autre, sur qui est humain dans le jeu qu’on a sous les yeux. Les deux gestes ont une forme voisine.

La première apparition imprimée du nom test de Turing n’a pas été retrouvée ici. Turing ne l’employait pas. Le nom de quelqu’un est généralement attaché à une méthode après qu’il n’est plus là. C’est la quatrième fois que cela arrive dans cette série : le nom de la machine, le titre qu’on a donné à Lovelace, les deux noms réunis pour la thèse, et celui-ci.

La première compétition expressément organisée autour de ce genre de test fut le prix Loebner de novembre 1991, financé par Hugh Loebner. Cette édition limitait les sujets de conversation. Des juges humains échangeaient sur des terminaux de texte avec des personnes et des programmes pour déterminer qui était humain et qui ne l’était pas. Quarante et un ans plus tard, c’est la version devenue courante qu’on a mise en pratique, pas le jeu de 1950 tel qu’il était.

Plaçons côte à côte ce qui a circulé et ce que dit l’article.

On dit que Turing a donné un critère pour juger si une machine est intelligente. Le texte parle d’un critère, mais ne fixe aucun score de réussite et ne dit pas que réussir équivaut à être intelligent.

On dit qu’il a prédit que des machines passeraient le test en 2000. Ce qui s’en approche le plus est la conjecture de la sixième section, avec sa mémoire, sa durée et sa probabilité. Réussite, note minimale, date butoir : ce n’est pas sous cette forme qu’elle a paru.

On dit que Turing estimait que les machines peuvent penser. Dans le texte, il juge la question littérale indigne d’être discutée sous cette forme, donne sa conjecture sur les résultats du jeu et prédit que l’usage des mots changera.

On dit que c’est un test de conversation de cinq minutes. Les cinq minutes ne sont pas dans les règles de la première section. Elles sont dans la prédiction de la sixième.

On dit que Turing évite la question de la conscience. Dans le texte, tout un passage de plusieurs pages s’intitule « L’argument de la conscience ». Turing cite longuement Jefferson, examine le solipsisme et l’esprit d’autrui, invente un oral et dit expressément que la conscience recèle une énigme.

Ces versions ont la même forme. L’original contient des conditions, des réserves et des désaccords que l’auteur lui-même signale. Ce qui a circulé est net, applicable et pourvu d’un score. Pour être employée à grande échelle, la méthode a dû être simplifiée jusqu’à prendre cet aspect. Or ce qu’on a retranché indiquait précisément jusqu’où la méthode pouvait valoir. Une fois les réserves supprimées, ce qui reste est plus commode à employer et plus facile à prendre pour une limite.

Restent quelques dates. Le 31 mars 1952, Turing fut jugé dans le Cheshire pour « gross indecency », attentat grave à la pudeur. Il ne fut pas emprisonné ; on le plaça en liberté surveillée pour douze mois, à condition qu’il accepte un traitement médical. Il mourut le 7 juin 1954 chez lui, à Wilmslow, dans le Cheshire, et fut retrouvé le lendemain. La conclusion officielle fut un suicide.

Quatre ans auparavant, le même homme avait écrit dans une revue trimestrielle de philosophie : je remplacerai cette question par une autre.

La question remplacée est restée où elle était.

Personne n’y a répondu, et personne n’a prouvé qu’il ne fallait pas la poser. Depuis cette année-là, on discute surtout de celle qui l’a remplacée : de ses règles, de sa durée, de sa valeur et de ceux qui l’ont réussie. La limite de ce terrain, quelqu’un l’a tracée en 1950. Celui qui l’a tracée a déjà inscrit dans la sixième section que les lecteurs se diviseraient sur la pertinence du remplacement. Il fallait donc garder l’ancienne formulation.

On cite rarement les deux phrases ensemble. À lire la première seule, on voit quelqu’un chasser l’ancienne question. À les lire ensemble, on le voit la déplacer sur le côté et laisser à côté d’elle un billet pour dire qu’elle est toujours là.

On construit encore des machines. Quant à savoir où passe la limite, chaque génération le dit à nouveau.