I. Eine anständige Partie
Am 21. Januar 1965 brachte die britische Wochenzeitschrift New Scientist einen Aufsatz über Go: „Das Rätsel von Go“. Der Mathematiker Irving John Good, der im Krieg mit Turing in der britischen Dechiffrierstelle gearbeitet hatte, fragte darin, ob ein Computer Go spielen könne. Seine Antwort: „Ich denke daher, dass es schwieriger sein wird, einen Computer für eine anständige Partie Go zu programmieren als für eine Partie Schach.“
In Folge 4 begründete ein Aufsatz von 1950 die Wahl des Schachs damit, dass gutes Schachspiel gemeinhin Denken erfordere. Fünfzehn Jahre später rückte Good die Grenze ein Stück weiter, zu einem Spiel, das schwieriger war als Schach.
Go hat wenige Regeln. Auf einem Brett mit je neunzehn senkrechten und waagerechten Linien setzen zwei Spieler abwechselnd schwarze und weiße Steine auf die Schnittpunkte. Hat eine Gruppe, von gegnerischen Steinen umschlossen, keine Freiheit mehr, wird sie vom Brett genommen. Zuletzt zählt, wer mehr Gebiet umschlossen hat. Wenige Regeln, viele Möglichkeiten: Schon beim ersten Zug stehen 361 Punkte zur Wahl. Es kann auf dem Brett mehr Stellungen geben, als es Atome im Universum gibt.
Im Mai 1997 gewann Deep Blue, die Maschine aus Folge 11, einen offiziellen Wettkampf gegen den Schachweltmeister. Am 29. Juli desselben Jahres zitierte die New York Times den Astrophysiker Piet Hut: „Es könnte noch hundert Jahre dauern, bis Computer Menschen im Go besiegen, vielleicht sogar länger.“ Ein hinreichend kluger Mensch, so Hut, müsste nur ein paar Monate Go lernen, dann könnte er die damaligen Programme schlagen.
2014 fragte ein Reporter von Wired den Go-Programmierer Rémi Coulom, wann Maschinen Menschen ohne Vorgabesteine schlagen könnten. „Ich denke, vielleicht in zehn Jahren“, sagte er. Gleich danach: „Aber ich mache ungern Vorhersagen.“
II. Vorgabesteine
Die Vorgabe erlaubt es zwei Menschen mit sehr unterschiedlicher Spielstärke, gegeneinander zu spielen. Der schwächere legt vor Beginn ein paar Steine aufs Brett. Je mehr Steine vorgegeben werden, desto größer der Unterschied.
Um 2006 versuchten einige europäische Forscher einen anderen Ansatz für Go-Programme. Statt für eine Stellung sofort den besten Zug bestimmen zu wollen, ließ das Programm aus der Stellung viele zufällige Partien rasch zu Ende laufen. Es schaute, nach welchen Zügen es am häufigsten gewann, und ging auf diesen Wegen ein Stück tiefer weiter. Coulom nannte das Verfahren 2006 in einem Aufsatz Monte-Carlo-Baumsuche. Monte Carlo ist der Ort mit dem Kasino in Monaco; der Name steht hier dafür, etwas durch Zufallsversuche abzuschätzen. Couloms Programm hieß Crazy Stone.
Am 22. Juni 2012 vereinbarten der japanische Go-Verband Nihon Ki-in und die University of Electro-Communications in Tokio eine Zusammenarbeit. Seither sollte jeden Frühling ein Profi gegen ein Programm mit Vorgabesteinen antreten. Der Wettbewerb hieß Denseisen. Bei der ersten Ausgabe im März 2013 gab Ishida Yoshio, 9. Dan, Crazy Stone vier Steine vor. Das Programm gewann.
Am 21. März 2014 trat Yoda Norimoto, 9. Dan, bei der zweiten Ausgabe gegen Crazy Stone an, ebenfalls mit Vorgabe. Der Reporter von Wired war dabei. Der Konferenzraum hatte Wände in Holzoptik und Leuchtstoffröhren an der Decke. In einer Ecke stand eine Leinwand; das Kamerateam bereitete die Internetübertragung vor. Das Programm lief auf einem System neben einem alten Laptop. Auf dem Bildschirm war seine geschätzte Gewinnwahrscheinlichkeit zu sehen. Ein Mensch setzte seine Steine wie angezeigt aufs Brett. Während des Spiels öffnete und schloss Yoda immer wieder seinen Fächer. Kurz vor Schluss setzte das Programm mehrmals im eigenen Gebiet und verschenkte Punkte. Es zählte für das Programm nur, wie wahrscheinlich der Sieg war, nicht dessen Höhe. Dem Entwickler, der zusah, war das ein wenig peinlich. Das Programm gewann mit zweieinhalb Punkten. Bei der dritten Ausgabe im März darauf gab Chō Chikun, 9. Dan, einem koreanischen Programm vier Steine vor. Chō Chikun gab auf.
In jenem Jahr schilderte der Go-Profi Michael Redmond dem Reporter von Wired, wie Menschen Go spielen. Manchmal sehe er einen Zug und wisse, dass er richtig sei, ohne sagen zu können, warum. Der Reporter nannte es Intuition: etwas, das über Jahre der Übung gewachsen war.
III. Eine Wand
Vom 5. bis zum 9. Oktober 2015 spielte der europäische Go-Meister Fan Hui am Londoner Sitz von DeepMind fünf offizielle Partien gegen AlphaGo, das Programm des Unternehmens, ohne Vorgabesteine. DeepMind war die Londoner Firma, die Google in Folge 17 gekauft hatte. Jede Seite hatte eine Stunde Bedenkzeit, danach drei Verlängerungsperioden zu dreißig Sekunden. War die Hauptzeit verstrichen, musste jeder Zug binnen dreißig Sekunden erfolgen; wer länger brauchte, verlor eine Periode. AlphaGo gewann alle fünf Partien.
Die Partien waren damals nicht öffentlich bekannt. Am 27. Januar 2016 erschien in der britischen Wochenzeitschrift Nature online ein Aufsatz mit dem Titel „Go meistern mit tiefen neuronalen Netzen und Baumsuche“. Damit wurde auch der Wettkampf bekannt. Der Aufsatz hatte zwanzig Autoren; an zweiter Stelle stand Aja Huang.
Der Aufsatz beschrieb zwei Netze. Das eine schätzte für eine Stellung ab, an welchen Punkt ein Profi wahrscheinlich ziehen würde, und mit welcher Wahrscheinlichkeit für jeden Punkt. Es hieß Policy-Netz. Das andere, das Value-Netz, schätzte für eine Stellung ab, wer am Ende gewinnen würde. Beide halfen der im vorigen Abschnitt beschriebenen Suche, weniger nutzlosen Wegen zu folgen. Das aus menschlichen Partien gelernte Netz schätzte die Züge von Menschen. Darauf aufbauend lernte das Programm durch Spiele gegen sich selbst stärkere Züge; aus solchen Partien lernte auch das Netz, das den Ausgang abschätzte. Die Version gegen Fan Hui nutzte 1.202 CPUs und 176 GPUs.
Fan Hui sagte dem Reporter von Wired später, das Programm sei „stark, beständig, wie eine Wand“. Hätte ihm niemand davon erzählt, hätte er vielleicht geglaubt, ihm gegenüber sitze ein Mensch, der etwas seltsam, aber sehr stark spiele.
Hätte ihm niemand davon erzählt. Turing brauchte für sein Imitationsspiel aus Folge 5 im Jahr 1950 jemanden, der sein Gegenüber nicht sehen und nur an dessen Antworten beurteilen konnte. Fünfundsechzig Jahre später saß ein Profi an einem Go-Brett und sagte etwas, das wie eine Antwort auf diese Frage klang. Dass ihm gegenüber eine Maschine war, wusste er, weil man es ihm gesagt hatte.
IV. Four Seasons
Im März 2016 spielte AlphaGo im sechsten Stock des Four Seasons Hotel in Seoul fünf Partien gegen den koreanischen Profi Lee Sedol (9. Dan). Sie begannen am 9., 10., 12., 13. und 15. März jeweils um ein Uhr nachmittags.
Gespielt wurde nach chinesischen Regeln mit siebeneinhalb Punkten Ausgleich. Nach chinesischen Regeln zählen am Ende Steine und Gebiet. Schwarz zieht zuerst und hat dadurch einen Vorteil; deshalb wurden nach dem Zählen siebeneinhalb Punkte von Schwarz abgezogen. Jede Seite hatte zwei Stunden, danach drei Verlängerungsperioden zu einer Minute. Das Preisgeld betrug eine Million Dollar. Nachdem AlphaGo den Wettkampf gewonnen hatte, erklärte das Unternehmen, es werde das Geld an wohltätige Einrichtungen und Go-Organisationen spenden.
Lee Sedol gegenüber saß Aja Huang. Vor ihm stand ein Rechner. Lee setzte einen Stein; Huang gab den Zug ein. Auf dem Bildschirm erschien der Punkt, an dem AlphaGo setzen wollte. Huang nahm einen Stein, legte ihn dorthin und drückte die Schachuhr.
Beim Schachtürken aus Folge 16, um 1770, spielte ein Mensch im Kasten für die Maschine. Die Zuschauer konnten ihn nicht sehen. 2016 in Seoul saß ein Mensch für alle sichtbar am Brett und setzte vor aller Augen die Steine einer Maschine. Den Zug bestimmte die Maschine; auf das Brett legte den Stein eine menschliche Hand. Die Rechner, die die Züge berechneten, standen nicht im Raum.
In den ersten drei Partien gab Lee Sedol auf; damit war der Wettkampf bereits entschieden. In der vierten Partie gab das Programm auf, in der fünften Lee Sedol. Vier zu eins.
V. Der siebenunddreißigste Zug
Am 10. März, in der zweiten Partie, spielte AlphaGo Schwarz. Beim siebenunddreißigsten Zug setzte es einen Stein. Einer der englischsprachigen Kommentatoren sagte: „Das ist ein sehr seltsamer Zug.“ Ein anderer: „Ich dachte, das sei ein Fehler.“
Fan Hui war vor Ort. „Das ist kein Zug, den ein Mensch machen würde“, sagte er, als er den Stein sah. „Ich habe noch nie jemanden so spielen sehen.“ Nach ungefähr zehn Sekunden erkannte er, wie der Zug mit den schon gesetzten Steinen zusammenhing. „Wunderschön“, sagte er.
Im Kontrollraum rief DeepMinds David Silver unterdessen die Aufzeichnung von AlphaGo auf. Später erzählte er Wired: Das aus menschlichen Partien gelernte Policy-Netz hatte die Wahrscheinlichkeit, dass ein menschlicher Profi in dieser Stellung so ziehen würde, auf eins zu zehntausend geschätzt.
Eins zu zehntausend misst eine bestimmte Sache: Wie wahrscheinlich spielt ein Profi so, gemessen an früheren menschlichen Partien? Es misst weder, wie gut der Zug ist, noch ob ein Mensch auf ihn kommen kann.
Ein paar Jahre später stand auf der Website des Unternehmens: Zug 37, ein Zug, dessen Wahrscheinlichkeit eins zu zehntausend betrug. Das gelernte Modell und der Profispieler kamen in diesem Satz nicht mehr vor.
Auf der Pressekonferenz sagte Lee Sedol nach der Partie über einen Dolmetscher: „Gestern war ich überrascht. Heute fehlen mir die Worte.“ Vom ersten bis zum letzten Zug habe er sich nie im Vorteil gefühlt. AlphaGo sei in dieser Partie fast perfekt gewesen.
VI. Der achtundsiebzigste Zug
Am 12. März, nach der Niederlage in der dritten Partie, begann Lee Sedol auf der Pressekonferenz mit den Worten: „Es tut mir leid, dass Sie mich so hilflos gesehen haben.“ Aus derselben Pressekonferenz ist vor allem ein Satz überliefert: „Verloren hat Lee Sedol, nicht die Menschheit.“
Am 13. März spielte Lee Sedol die vierte Partie mit Weiß. Beim achtundsiebzigsten Zug setzte er einen Stein in die Mitte des Bretts. Noch am selben Tag nannte Gu Li, 9. Dan, ihn einen göttlichen Zug.
AlphaGo gab nicht sofort auf. Es spielte mehrere Züge, die die Kommentatoren nicht verstanden. Erst einige Züge später passte sich seine Einschätzung der Stellung an. Nach der Partie sagte Lee Sedol, es habe wie eine Störung des Programms ausgesehen. Am Ende gab das Programm auf. Auf der Pressekonferenz sagte Lee: „So viele Glückwünsche für eine einzige gewonnene Partie, das ist wohl das erste Mal.“
Auf seiner späteren Website gab DeepMind auch für Zug 78 eine Wahrscheinlichkeit von eins zu zehntausend an. Zug 37 hatte die Maschine gespielt. Das aus menschlichen Partien gelernte Modell schätzte die Wahrscheinlichkeit, dass ein Profi so spielen würde, auf eins zu zehntausend. Zug 78 hatte ein Mensch gespielt. Das Unternehmen beschrieb ihn mit derselben Formulierung und derselben Zahl, erklärte aber nicht, wie es zu dieser Schätzung gekommen war.
Am 15. März gab Lee Sedol die fünfte Partie auf. Viele sahen zu. Google sprach von sechzig Millionen Zuschauern allein in China bei der ersten Partie. DeepMind gab später an, weltweit hätten mehr als zweihundert Millionen Menschen die fünf Partien verfolgt. Zwei Tage nach dem Wettkampf kündigte die koreanische Regierung an, in fünf Jahren rund eine Billion Won für KI-Forschung bereitzustellen.
VII. Null
Ende 2016 und Anfang 2017 spielte ein Benutzerkonto auf dem koreanischen Go-Server Tygem und dem chinesischen Fox Go eine Schnellpartie nach der anderen gegen führende Profis, darunter Ke Jie, Park Junghwan, Iyama Yūta und Gu Li. Der Name des Kontos wechselte; zuletzt hieß es Master. Bis zum 4. Januar 2017 waren es sechzig Partien und sechzig Siege. An diesem Tag erklärte DeepMinds Demis Hassabis online, man teste damit einen neuen Prototyp von AlphaGo.
Am 23., 25. und 27. Mai 2017 spielte Ke Jie im ostchinesischen Wuzhen drei Partien gegen AlphaGo. In der ersten gewann AlphaGo mit Weiß um einen halben Punkt; in den beiden anderen gab Ke Jie auf. Danach erklärte das Unternehmen, AlphaGo werde an keinem weiteren Wettbewerb dieser Art teilnehmen.
Im Oktober erschienen in Nature „Go meistern ohne menschliches Wissen“ und die neue Version AlphaGo Zero. Nach Angaben des Unternehmens hatten frühere Versionen zunächst an Tausenden Partien menschlicher Amateure und Profis gelernt. Diese Version übersprang den Schritt, begann mit zufälligen Zügen und spielte nur gegen sich selbst. Nach drei Tagen spielte sie hundert Partien gegen die Version, die Lee Sedol geschlagen hatte, und gewann alle hundert. Nach vierzig Tagen Training war sie noch stärker. Im Jahr darauf übertrug man den Ansatz als AlphaZero auf Schach und japanisches Shōgi.
Ohne menschliches Wissen, steht im Titel. Was man ihr gab, steht im Aufsatz und in der Erläuterung des Unternehmens: ein Brett mit neunzehn Linien pro Richtung, schwarze und weiße Steine, wer am Zug ist, wo ein Zug erlaubt ist und wo nicht, und wer am Ende gewinnt. Menschen entwarfen das Netz und das Suchverfahren. Menschen bestimmten auch, wie es sich Partie für Partie üben sollte. Es lernte nicht aus Partien von Menschen. Es spielte das Spiel, das Menschen seit vielen Jahrhunderten spielen.
Auch die Spieler veränderten sich. Im April 2017 befragte DeepMind mehrere chinesische Go-Profis. Zhou Ruiyang sagte, seit AlphaGo denke er: Kein Zug ist unmöglich. Kaum gespielte Zugfolgen, etwa gleich zu Beginn den Drei-drei-Punkt zu besetzen, wurden wieder untersucht.
Im März 2023 erschien in der Zeitschrift der US-amerikanischen National Academy of Sciences ein Aufsatz von vier Forschenden: „Übermenschliche KI kann menschliche Entscheidungen durch mehr neuartige Züge verbessern“. Sie bewerteten mit einem den Menschen überlegenen Go-Programm jeden Zug, den Profis über mehrere Jahrzehnte tatsächlich gespielt hatten. Nach 2016 nahm die gemessene Qualität menschlicher Züge zu. Das hing damit zusammen, dass häufiger neuartige Züge gespielt wurden.
VIII. Eins zu zehntausend
Im November 2019 zog sich Lee Sedol formell vom professionellen Go zurück. Der Nachrichtenagentur Yonhap sagte er: „Selbst wenn ich die Nummer eins werde, gibt es da etwas, das ich nicht besiegen kann.“ Einen Monat später, vom 18. bis zum 21. Dezember, spielte er drei Abschiedspartien gegen HanDol, das Programm eines koreanischen Unternehmens. In der ersten bekam er zwei Steine vorgegeben. Das Programm schätzte eine große Gruppe in der Stellung falsch ein und gab auf. Die beiden anderen Partien gewann es.
2023 veröffentlichte ein Forschungsteam „Gegnerische Strategien besiegen übermenschliche Go-KI“. Die Forschenden trainierten ein weiteres Programm, um Schwachstellen des starken quelloffenen Go-Programms KataGo zu finden. Es fand ein Zugmuster, bei dem KataGo das Überleben von Steinen in einer sehr großen, ringförmigen Gruppe wiederholt falsch einschätzte. Der starke Amateur Kellin Pelrine lernte das Muster und gewann in einem Test vierzehn von fünfzehn Partien gegen KataGo. Dessen Entwickler änderte das Programm; später fand man auch gegen die geänderte Fassung ein Mittel.
Dass es da etwas gebe, das er nicht besiegen könne, sagte 2019 ein Profi mit dem neunten Dan. Vier Jahre später besiegte ein Amateur mit dem von einer anderen Maschine gefundenen Zugmuster ein Programm, das im Titel des Aufsatzes übermenschlich hieß.
Zweierlei fiel in dieser Folge weg. Vor eins zu zehntausend fehlte der halbe Satz: Ein aus menschlichen Partien gelerntes Modell schätzte, ob ein Profi so spielen würde. Ohne diesen Halbsatz bezeichnet die Zahl, wie selten ein Zug an sich ist. Hinter ohne menschliches Wissen fehlte der ungeschriebene Halbsatz: AlphaGo Zero ließ das Lernen aus Aufzeichnungen menschlicher Partien weg; das Brett und die Regeln kamen weiterhin von Menschen. Ohne ihn klingt es, als hätte das Programm überhaupt nichts von Menschen bekommen.
Eines aber steckt nicht in der Maschine, ob man etwas weglässt oder nicht.
AlphaGo gibt einen Punkt auf dem Brett aus. Sehr seltsam, ein Fehler, kein menschlicher Zug, wunderschön, ein göttlicher Zug, kreativ: Das alles sagen Menschen. Auf der späteren Website des Unternehmens hieß Zug 37 kreativ und Zug 78 göttlich. Diese Namen haben Menschen den Zügen gegeben. In den Aufzeichnungen des Programms gibt es dafür kein Feld. Bevor Fan Hui „Wunderschön“ sagte, vergingen zehn Sekunden. Diese zehn Sekunden gehörten ihm.
Ein Mensch am Brett legte den Stein für die Maschine hin, ihm gegenüber saß ein Mensch, ein Mensch bat nach seiner Aufgabe um Entschuldigung, und zweihundert Millionen Menschen haben laut dem Unternehmen diese fünf Partien gesehen. Ist eine Partie, die kein Mensch spielt und bei der kein Mensch zusieht, noch eine Partie?
Nach der späteren Angabe des Unternehmens lag die Wahrscheinlichkeit für Zug 78 bei eins zu zehntausend. Lee Sedol spielte ihn. Der eben beschriebene Maßstab für menschliche Züge beruhte auf Partien von Menschen. Den Zug macht, wer vor dem Brett sitzt. Was sich mit der Vergangenheit auch bei allem Rechnen nicht erfassen lässt, heißt in dieser Reihe der Rest.
Noch werden Maschinen gebaut. Wo aber die Grenze liegt, sagt jede Generation von Neuem.