1. Une partie convenable
Le 21 janvier 1965, l’hebdomadaire britannique New Scientist publie un article sur le jeu de go, « L’énigme du go ». Son auteur est le mathématicien Irving John Good, qui, pendant la guerre, a travaillé avec Turing dans le service britannique de déchiffrement. Une section demande si un ordinateur peut jouer au go. Voici sa réponse : « Je pense donc qu’il sera plus difficile de programmer un ordinateur pour qu’il joue une partie de go convenable que pour qu’il joue aux échecs. »
À l’épisode 4, dans un article de 1950 sur le jeu d’échecs, l’une des raisons du choix du sujet était qu’on estime généralement qu’il faut réfléchir pour bien jouer. Quinze ans plus tard, Good déplace la limite d’un cran, vers un jeu plus difficile que les échecs.
Le go a peu de règles. Sur un plateau de dix-neuf lignes dans chaque sens, deux personnes placent à tour de rôle des pierres noires et des pierres blanches aux intersections. Un groupe que l’adversaire encercle jusqu’à ne lui laisser aucune liberté est retiré. À la fin, on regarde qui a entouré le plus grand territoire. Peu de règles, beaucoup de places possibles : dès le premier coup, on peut choisir parmi trois cent soixante et une intersections. Le plateau peut présenter plus de positions qu’il n’y a d’atomes dans l’univers.
En mai 1997, à l’épisode 11, une machine appelée Deep Blue bat le champion du monde d’échecs en match officiel. Le 29 juillet de la même année, le New York Times interroge l’astrophysicien Piet Hut. Selon lui, « il faudra peut-être encore cent ans pour qu’un ordinateur batte un humain au go, et peut-être davantage ». Il dit aussi qu’une personne assez douée pourrait apprendre le go en quelques mois et gagner contre les programmes de l’époque.
En 2014, un journaliste de Wired demande à Rémi Coulom, qui écrit des programmes de go, quand une machine pourra battre un humain sans handicap. « Je dirais peut-être dix ans », répond-il. Puis, aussitôt : « Mais je n’aime pas faire de prédictions. »
2. Des pierres d’avance
Le handicap permet de faire jouer deux personnes de forces très différentes. La plus faible commence par poser plusieurs pierres sur le plateau avant le premier coup. Plus elle en pose, plus l’écart entre les deux joueurs est grand.
Vers 2006, quelques chercheurs européens abordent autrement les programmes de go. Devant une position, au lieu de juger d’emblée quel coup est bon, le programme joue très vite beaucoup, beaucoup de parties jusqu’au bout, en choisissant des coups au hasard. Il regarde après quel coup il gagne le plus souvent, puis explore un peu plus avant les pistes qui gagnent le plus. Dans un article de 2006, Coulom donne à la méthode le nom de « recherche arborescente de Monte-Carlo ». Monte-Carlo, c’est le quartier de Monaco où l’on trouve un casino. Le nom évoque des estimations à partir d’essais aléatoires. Le programme de Coulom s’appelle Crazy Stone.
Le 22 juin 2012, la Nihon Ki-in et l’Université d’électrocommunications de Tokyo signent un accord. Chaque printemps, on fera jouer une partie à handicap entre un professionnel et un programme : le Denseisen. À la première édition, en mars 2013, Crazy Stone affronte Yoshio Ishida, neuvième dan, avec quatre pierres d’avance. Le programme gagne.
Le 21 mars 2014, à la deuxième édition, Norimoto Yoda, neuvième dan, joue lui aussi contre Crazy Stone avec un handicap. Le journaliste de Wired est là. La partie se tient dans une salle de réunion aux panneaux imitation bois, avec des tubes fluorescents au plafond, un écran de projection dans un coin et une équipe qui prépare la diffusion en ligne. Le programme tourne sur un système à côté d’un vieil ordinateur portable ; à l’écran figure la probabilité de gagner qu’il estime pour lui-même. Quelqu’un pose les pierres pour lui en suivant l’écran. Yoda joue en ouvrant et refermant son éventail. Vers la fin, le programme joue dans son propre territoire quelques coups qui lui font perdre des points pour rien. Seules comptent pour lui ses chances de gagner, pas l’ampleur de la victoire. Son concepteur, qui regarde à côté, en est un peu gêné. Le programme finit par gagner de deux points et demi. En mars suivant, à la troisième édition, Cho Chikun, neuvième dan, accorde quatre pierres à un programme coréen. Cho abandonne.
Cette année-là, le professionnel Michael Redmond explique au journaliste de Wired comment les humains jouent. Il lui arrive de voir un coup et d’être certain qu’il est juste, sans pouvoir dire pourquoi. Le journaliste appelle cela l’intuition et dit qu’elle se forme au cours d’années d’entraînement.
3. Un mur
Du 5 au 9 octobre 2015, au siège londonien de DeepMind, le champion européen de go Fan Hui joue cinq parties officielles sans handicap contre AlphaGo, un programme de l’entreprise. DeepMind, c’est la société londonienne que Google a achetée à l’épisode 17. Chacun a une heure de jeu, puis trois périodes de trente secondes. Une fois l’heure écoulée, chaque coup doit être joué en trente secondes ; un dépassement fait perdre une période. Cinq parties, cinq victoires pour AlphaGo.
Les cinq parties ne sont pas annoncées publiquement à l’époque. Il faut attendre le 27 janvier 2016 et la mise en ligne dans Nature de l’article « Maîtriser le go avec des réseaux neuronaux profonds et la recherche arborescente ». Vingt personnes le signent. Le deuxième nom est celui d’Aja Huang, Huang Shijie.
L’article décrit la méthode. Le programme a deux réseaux. Le premier regarde une position et estime où un joueur professionnel poserait une pierre, avec quelle probabilité à chaque intersection. L’article le nomme « réseau de politique ». L’autre regarde la position et estime qui finira par gagner : c’est le « réseau de valeur ». Les deux aident la recherche décrite plus haut à ne pas explorer trop de pistes inutiles. Le réseau entraîné sur des parties humaines estime les coups que les humains joueraient. À partir de là, le programme acquiert des façons de jouer plus fortes en jouant contre lui-même. Il utilise aussi ses parties contre lui-même pour entraîner le réseau qui estime qui gagnera. La version qui a joué contre Fan Hui utilise 1 202 processeurs (CPU) et 176 processeurs graphiques (GPU).
Fan Hui dit ensuite à Wired que le programme est « très fort, très stable, comme un mur ». Si personne ne le lui avait dit, ajoute-t-il, il aurait pu croire qu’il avait en face de lui quelqu’un au jeu un peu étrange, mais très fort.
Si personne ne le lui avait dit. À l’épisode 5, le jeu de l’imitation imaginé par Turing en 1950 faisait appel à une personne qui ne voyait pas son interlocuteur et devait juger sur ce qu’il lui donnait. Soixante-cinq ans après, un joueur professionnel assis devant un plateau dit quelque chose qui ressemble à une réponse à cette question. Il sait qu’en face, c’est une machine, parce qu’on le lui a dit.
4. L’hôtel Four Seasons
En mars 2016, au sixième étage de l’hôtel Four Seasons de Séoul, AlphaGo et le Coréen Lee Sedol, neuvième dan, disputent cinq parties. Elles ont lieu les 9, 10, 12, 13 et 15 mars, chaque fois à treize heures.
On suit les règles chinoises, avec un komi de sept points et demi. À la fin, on compte les pierres et le territoire. Les noirs ont joué en premier, ce qui leur donne un avantage : avant de comparer les scores, on leur retranche sept points et demi. Chacun dispose de deux heures, puis de trois périodes d’une minute. Le prix est d’un million de dollars. Après la victoire d’AlphaGo au score total, l’entreprise annonce qu’elle fera don de cette somme à des œuvres caritatives et à des organisations de go.
En face de Lee Sedol, il y a Aja Huang. Il a un ordinateur devant lui. Quand Lee pose une pierre, Huang saisit le coup. L’écran indique où AlphaGo veut jouer ; Huang prend une pierre, la pose sur le plateau et appuie sur la pendule.
À l’épisode 16, vers 1770, un homme caché dans un meuble jouait aux échecs pour une machine, le Turc mécanique. Les spectateurs ne le voyaient pas. En 2016 à Séoul, un homme est assis en pleine vue et pose les pierres pour une machine devant tout le monde. C’est la machine qui choisit le coup. C’est une main humaine qui pose la pierre. La machine qui calcule les coups n’est pas dans la pièce.
Lee Sedol abandonne dans chacune des trois premières parties. Le match est décidé dès la troisième. Dans la quatrième, le programme abandonne. Dans la cinquième, Lee abandonne. Quatre à un.
5. Le trente-septième coup
Le 10 mars, lors de la deuxième partie, AlphaGo a les noirs. Au trente-septième coup, une pierre est posée. Dans les commentaires en anglais, quelqu’un dit : « C’est un coup étrange. » Un autre dit : « J’ai cru que c’était une erreur. »
Fan Hui est sur place. En voyant le coup, il dit : « Ce n’est pas un coup qu’un humain jouerait. Je n’ai jamais vu quelqu’un jouer comme ça. » Une dizaine de secondes plus tard, il voit le rapport entre ce coup et les pierres déjà posées. « C’est magnifique », dit-il.
Dans la salle de contrôle, David Silver, de DeepMind, consulte alors le relevé d’AlphaGo. Il expliquera au journaliste de Wired que le réseau de politique, entraîné sur les parties humaines, estimait à une chance sur dix mille la probabilité qu’un professionnel humain joue ce coup dans cette position.
Une chance sur dix mille, voilà ce que le nombre mesure : vu les parties jouées par les humains, dans quelle mesure un professionnel jouerait-il de cette façon dans cette position ? Le nombre ne mesure ni si le coup est bon, ni si un humain est capable de l’imaginer.
Quelques années plus tard, l’entreprise écrit sur son propre site que le trente-septième coup est un coup qui n’avait qu’une chance sur dix mille d’être joué. Le modèle entraîné et le joueur professionnel ont disparu de la phrase.
À la conférence de presse après la partie, Lee Sedol dit par l’intermédiaire d’un interprète : « Hier, j’étais surpris. Aujourd’hui, je n’ai rien à dire. » Du premier au dernier coup, dit-il, il n’a pas eu un instant l’impression de mener. AlphaGo a joué une partie presque parfaite.
6. Le soixante-dix-huitième coup
Le 12 mars, après avoir perdu la troisième partie, Lee Sedol commence la conférence de presse par ces mots : « Je suis désolé que vous m’ayez vu si impuissant. » De la même conférence, la phrase la plus reprise sera : « C’est Lee Sedol qui a perdu, pas l’humanité. »
Le 13 mars, dans la quatrième partie, Lee Sedol joue les blancs. Au soixante-dix-huitième coup de la partie, il joue au milieu du plateau. Ce jour-là, Gu Li, neuvième dan, appelle cela « un coup divin ».
AlphaGo n’abandonne pas aussitôt. Il joue une suite de coups que les commentateurs ne comprennent pas. Plusieurs coups encore passent avant que son estimation de la position ne se corrige. Selon Lee Sedol, après la partie, on aurait dit que le programme s’était déréglé. À la fin, c’est le programme qui abandonne. À la conférence de presse, Lee dit : « Je crois que c’est la première fois que je reçois autant de félicitations pour n’avoir gagné qu’une partie. »
Sur son site, l’entreprise donne plus tard aussi un nombre au soixante-dix-huitième coup : une chance sur dix mille. Le trente-septième coup vient de la machine. Selon le modèle entraîné sur les parties humaines, un professionnel avait une chance sur dix mille de jouer ainsi. Le soixante-dix-huitième vient d’un humain. L’entreprise reprend la même formule et le même nombre, sans expliquer comment elle l’a estimé pour ce coup-là.
Le 15 mars, Lee Sedol abandonne la cinquième partie. Beaucoup de gens regardent. Selon Google, la première partie a réuni à elle seule soixante millions de spectateurs chinois. D’après DeepMind, plus de deux cents millions de personnes dans le monde ont regardé les cinq parties. Deux jours après la fin du match, le gouvernement coréen annonce qu’il consacrera environ mille milliards de wons à la recherche en intelligence artificielle sur cinq ans.
7. Zéro
De la fin de 2016 au début de 2017, sur Tygem en Corée et Fox Go en Chine, un compte enchaîne les parties rapides contre des professionnels de premier rang. Ke Jie, Park Junghwan, Iyama Yuta et Gu Li figurent parmi ses adversaires. Le compte change de nom en cours de route. Il finit par s’appeler Master. Au 4 janvier 2017, il en est à soixante parties et soixante victoires. Ce jour-là, Demis Hassabis, de DeepMind, explique en ligne que c’est un nouveau prototype d’AlphaGo en cours d’essai.
Les 23, 25 et 27 mai 2017, à Wuzhen, dans le Zhejiang, Ke Jie joue trois parties contre AlphaGo. Dans la première, AlphaGo joue les blancs et gagne d’un demi-point. Ke Jie abandonne dans les deux suivantes. À la fin du match, l’entreprise annonce qu’AlphaGo ne participera plus à ce genre de rencontres.
En octobre, Nature publie « Maîtriser le go sans connaissances humaines ». La nouvelle version s’appelle AlphaGo Zero. L’entreprise précise que les versions précédentes avaient commencé par apprendre à partir de milliers de parties d’amateurs et de professionnels. Celle-ci saute cette étape, commence par jouer au hasard et ne joue que contre elle-même. Au bout de trois jours d’entraînement, elle joue cent parties contre la version qui a battu Lee Sedol et gagne les cent. Au bout de quarante jours, elle a encore progressé. L’année suivante, la même approche est étendue aux échecs et au shogi sous le nom d’AlphaZero.
Le titre dit « sans connaissances humaines ». L’article et l’explication de l’entreprise disent ce qu’on donne au programme : un plateau de dix-neuf lignes, des pierres noires et blanches, à qui c’est le tour, où l’on peut et où l’on ne peut pas jouer, et qui a gagné à la fin. Le réseau, la méthode de recherche et la manière de s’entraîner partie après partie ont tous été conçus par des humains. Le programme n’a pas appris les parties déjà jouées par les humains. Mais il joue au jeu auquel les humains jouent depuis des siècles.
Les joueurs changent aussi. En avril 2017, DeepMind interroge plusieurs professionnels chinois. Après avoir vu les parties du programme, dit Zhou Ruiyang, il en est venu à penser qu’aucun coup n’est impossible. Jouer au point trois-trois dès l’ouverture et d’anciennes séquences jusque-là peu jouées reviennent à l’étude.
En mars 2023, quatre chercheurs publient dans la revue de l’Académie nationale des sciences des États-Unis « Une intelligence artificielle surhumaine peut améliorer les décisions humaines en les rendant plus novatrices ». Ils se servent d’un programme de go plus fort que les humains pour évaluer les coups effectivement joués par des professionnels pendant des décennies. Après 2016, ils mesurent une amélioration de la qualité des coups humains, associée à une augmentation du nombre de coups nouveaux.
8. Une chance sur dix mille
En novembre 2019, Lee Sedol accomplit les formalités pour quitter le go professionnel. À un journaliste de Yonhap, il dit : « Même si je devenais le numéro un, il y aurait quelque chose que je ne pourrais pas battre. » Un mois après, du 18 au 21 décembre, il joue trois parties d’adieu contre HanDol, le programme d’une entreprise coréenne. Dans la première, Lee a deux pierres d’avance ; le programme se trompe sur une grande partie de la position et abandonne. Il gagne les deux suivantes.
En 2023, une équipe de recherche publie « Des stratégies adverses battent une intelligence artificielle surhumaine au go ». Elle entraîne un autre programme à chercher des failles dans KataGo, un programme de go puissant dont le code est public. La méthode trouvée amène peu à peu l’adversaire à former une très grande boucle et à se tromper à répétition sur la vie ou la mort des pierres à l’intérieur. Un fort amateur, Kellin Pelrine, apprend l’approche et bat KataGo quatorze fois en quinze parties lors d’un test joué par des humains. L’auteur de KataGo modifie ensuite le programme ; plus tard, quelqu’un trouve aussi une façon de battre la version modifiée.
« Quelque chose que je ne pourrais pas battre », c’est ce que dit en 2019 un professionnel neuvième dan. Quatre ans après, un amateur se sert d’une approche trouvée par une autre machine et bat un programme que le titre d’un article appelle surhumain.
Deux coupes dans cet épisode. La première enlève ce qui précède « une chance sur dix mille » : un modèle entraîné sur des parties humaines estime la probabilité qu’un professionnel joue ainsi. Une fois la phrase coupée, le nombre devient une mesure de la rareté du coup en lui-même. La seconde enlève ce que le titre « sans connaissances humaines » ne précise pas : AlphaGo Zero saute l’étape où il apprenait à jouer à partir de parties humaines, mais le plateau et les règles lui sont toujours donnés par des personnes. Une fois cette nuance perdue, on dirait que le programme n’a rien reçu des humains.
Il y a encore une chose qui, qu’on coupe ou non, n’est pas dans la machine.
Ce qu’AlphaGo donne, c’est un endroit où poser une pierre. « Étrange », « une erreur », « pas un coup humain », « magnifique », « coup divin », « créatif », voilà des mots que disent des gens. Sur son site, l’entreprise qualifie plus tard le trente-septième coup de créatif et le soixante-dix-huitième de divin. Ce sont des noms que des humains donnent aux coups ; le relevé du programme n’a pas de colonne pour cela. Avant que Fan Hui dise « c’est magnifique », il s’écoule dix secondes. Ces dix secondes sont à lui.
Celui qui pose les pierres pour la machine est une personne. Celui qui joue de l’autre côté est une personne. Celui qui s’excuse après avoir abandonné est une personne. Quant aux spectateurs, l’entreprise dit qu’ils sont deux cents millions. Une partie que personne ne joue et que personne ne regarde, est-ce encore une partie ?
D’après le chiffre donné plus tard par l’entreprise, le soixante-dix-huitième coup avait une chance sur dix mille d’être joué. Lee Sedol l’a joué. La mesure qu’on vient de décrire a été construite à partir de parties jouées par des humains. Celui qui joue le coup suivant, c’est toujours celui qui est assis devant le plateau. La série appelle « le reste » ce que les calculs fondés sur le passé ne parviennent jamais à faire entrer.
On construit encore des machines. Quant à savoir où passe la limite, chaque génération le dit à nouveau.