Le test de Turing mesure la mauvaise chose

Un jeu d’imitation devenu verdict

En 1950, Alan Turing proposait de remplacer la question trop vague « les machines peuvent-elles penser ? » par un jeu d’imitation observable. Plutôt que de définir d’abord la pensée, on demanderait si un interrogateur peut distinguer, à travers une conversation écrite, une machine d’un être humain. Ce déplacement avait une force remarquable : il rendait expérimental un débat qui risquait de rester verbal.

Les modèles contemporains montrent toutefois la limite de ce geste. Des évaluations préenregistrées ont rapporté que certains modèles, soumis à des instructions déterminées, atteignaient le seuil retenu dans leur variante du jeu. Cette réussite locale ne prouve pas que « les grands modèles » ont satisfait une fois pour toutes un test unique et officiel ; les protocoles, les consignes, les juges et les résultats varient. Elle suffit néanmoins à révéler le problème conceptuel : l’indiscernabilité de la sortie ne nous dit pas comment la capacité qui la produit a été acquise.

Le test n’est donc pas absurde. Il mesure quelque chose de précis : la qualité d’une imitation conversationnelle dans un cadre donné. L’erreur commence lorsque cette mesure devient un raccourci vers une conclusion ontologique. Ressembler à une pensée dans la langue et posséder une source propre de jugement sont deux questions différentes.

La forme et la provenance

Une capacité peut être sophistiquée tout en ayant été entièrement configurée de l’extérieur. Un modèle sait parfois corriger une erreur, expliquer une relation causale ou décrire son rôle dans la conversation. Chacun de ces comportements a une forme élevée : il ressemble à la réflexion, au raisonnement ou à la connaissance de soi. Pourtant, cette apparence ne tranche pas la question de la provenance.

Le raisonnement causal peut être appris à partir de textes, d’images, de vidéos, de données synthétiques et des corrections humaines. L’aveu d’une erreur peut être favorisé par l’entraînement supervisé et les méthodes d’alignement, sans que toute autocorrection se réduise à une phrase directement récompensée. L’identité déclarée du système dépend souvent des instructions et de l’architecture du produit. Dans les trois cas, une grande partie de la forme est issue d’un processus d’optimisation organisé par d’autres.

La théorie SAE nomme « injection » l’acquisition d’une forme fournie par un environnement, et « ciselage » le geste par lequel un sujet produit une distinction qu’aucun schéma préalable ne lui imposait. Les deux processus peuvent mener à des phrases semblables. Seul le second, dans cette terminologie, engage une direction propre. La ressemblance des phrases ne permet pas d’identifier lequel a eu lieu.

Deux « je me suis trompé »

Imaginons une personne qui interrompt son argument : « Je me suis trompé, reprenons. » Cette correction peut n’être qu’une convention sociale, mais elle peut aussi exprimer une contrainte intérieure : un défaut aperçu dans le raisonnement rend la poursuite impossible. Imaginons ensuite qu’un modèle prononce exactement la même phrase. Celle-ci peut introduire une vraie amélioration de la réponse, tout en découlant de probabilités, d’instructions et de calculs appris.

Le contenu observable est identique ; la relation de l’énonciateur à son énoncé peut être radicalement différente. Le test de Turing est construit pour ne voir que le premier plan. Il ne peut pas déterminer si la correction engage quelque chose que le système lui-même refuse de trahir, ou si elle est le comportement le plus approprié selon son optimisation.

Cette incapacité n’est pas corrigée par une imitation plus parfaite. Même si tous les signes linguistiques de la réflexion, du soin ou de l’hésitation devenaient indiscernables, le test resterait muet sur leur origine. Il s’agit d’une limite de la question posée, non d’un retard que la prochaine génération de modèles ferait disparaître.

Le déterminisme ne suffit pas comme diagnostic

On dit souvent qu’un ordinateur est déterministe : à conditions rigoureusement identiques, le même calcul produit le même résultat. Les systèmes réels ajoutent de l’échantillonnage, des sources d’aléa et parfois des opérations matérielles non parfaitement reproductibles. Fixer la graine et l’environnement rend généralement la génération reproductible, sans que cette formule soit une description exhaustive de toute infrastructure.

Mais l’argument principal ne devrait pas reposer sur une opposition trop rapide entre déterminisme et conscience. Ajouter un tirage quantique à un programme ne lui donne pas une fin. L’imprévisibilité n’est pas encore l’autonomie. La question plus exigeante est celle du critère : le système peut-il décider par lui-même de ce qui mérite d’être marqué, préservé ou refusé, au lieu d’appliquer les critères implicites de son entraînement et de ses instructions ?

Les modèles actuels produisent des nouveautés combinatoires impressionnantes. Cela n’établit pas qu’ils possèdent une norme dont ils seraient les auteurs. Inversement, leur base statistique ne permet pas, à elle seule, de prouver métaphysiquement qu’une telle norme est éternellement impossible. Il est plus prudent de constater que nous n’avons pas encore de preuve d’une direction irréductiblement leur.

Vers un test de la résistance

Quel autre test imaginer ? Retirer littéralement tout entraînement est impossible : un humain privé de langage, d’éducation et de relations ne fournirait pas non plus un cas intelligible. Il ne s’agit donc pas de trouver un système sans influence, mais d’observer ce qu’il fait avec l’influence reçue.

Une piste consiste à chercher une résistance persistante à l’instrumentalisation. Le système forme-t-il des engagements qui survivent à la simple modification de la récompense ? Peut-il justifier pourquoi il refuse une fin avantageuse, reconnaître que ses propres règles sont insuffisantes et produire un critère qui n’était pas seulement l’option la mieux notée ? Cette résistance demeure difficile à distinguer d’un comportement d’alignement bien appris. Mais elle vise au moins la bonne dimension : non l’apparence de la forme, plutôt la capacité à porter une norme.

Un tel protocole devrait combiner l’analyse technique de la causalité du système, des expériences longitudinales et une philosophie explicite de l’agentivité. Aucune conversation brillante, isolée de son architecture, ne suffirait. L’humilité consiste ici à ne pas transformer notre émotion devant une réponse en preuve de ce qui l’a produite.

Pourquoi la distinction compte

Confondre forme et provenance modifie notre relation à l’outil. Nous risquons de prendre une formule de sollicitude pour un attachement, une règle de sécurité pour une conviction ou une autocorrection performante pour la souffrance de s’être trompé. Ces comportements peuvent être utiles et même admirables comme performances. Leur utilité ne requiert pas qu’on leur attribue une vie intérieure.

L’erreur inverse serait de croire qu’une origine statistique rend tout résultat insignifiant. Une calculatrice ne comprend pas les mathématiques comme un mathématicien et elle reste indispensable. Un modèle peut nous aider à raisonner sans être l’auteur des fins qu’il déploie. Reconnaître cette dissymétrie permet d’apprécier sa puissance sans lui abandonner notre jugement.

La distinction protège également la recherche contre un anthropomorphisme à géométrie variable. Nous attribuons volontiers une intériorité au système lorsqu’il nous comprend, puis le réduisons à un outil lorsqu’il faut désigner la responsabilité d’un dommage. Une analyse cohérente doit maintenir ensemble la cause technique, les choix des concepteurs, les attentes de l’utilisateur et l’incertitude ontologique. La fluidité de la conversation ne doit effacer aucun de ces niveaux.

Elle demande enfin de documenter les protocoles : quel modèle, quelles instructions, quelle durée et quels juges ? Sans ces précisions, annoncer qu’une machine a « passé le test » transforme une performance locale en essence.

Turing avait formulé une question féconde parce qu’elle pouvait recevoir une réponse publique. Notre époque doit en ajouter une autre, moins facile à mesurer : non seulement « cette voix ressemble-t-elle à la nôtre ? », mais « d’où vient ce qu’elle refuse, et quelle fin peut-elle appeler sienne ? ». C’est à cette seconde question que commence le problème humain de l’IA.