Meißel-Konstrukt-Zyklus · KI-Reihe · 11

Ein Philosoph sagt: Künstliche Intelligenz ist Alchemie

Han Qin · Etwa 17 Minuten · Veröffentlicht

I. Ein Termin

Im Dezember 1965 veröffentlichte RAND ein Dokument mit der Nummer 3244. Es hieß Alchemie und künstliche Intelligenz. Der Verfasser, Hubert Dreyfus, war Philosoph. Auf den Seiten drei und vier schrieb er Punkt für Punkt etwas ab, das acht Jahre zurücklag.

Es waren die vier Vorhersagen, die Simon im November 1957 beim Abendessen in einem Hotel in Pittsburgh verlesen hatte. Die siebte Folge dieser Reihe begann an jenem Abend. Innerhalb von zehn Jahren werde ein Computer Schachweltmeister, ein Computer werde einen wichtigen neuen mathematischen Satz entdecken und beweisen, ein Computer werde Musik schreiben, die Kritiker anerkennen, und die meisten Theorien der Psychologie würden die Form von Programmen annehmen.

Nachdem Dreyfus alle vier abgeschrieben hatte, fügte er hinzu, für eine abschließende Prüfung sei es noch zu früh. Dann nannte er einen Termin: Im November 1967, nach zehn Jahren, könne man die ursprünglichen Erwartungen mit der Wirklichkeit vergleichen. Das war ein Vorschlag, Bilanz zu ziehen.

Am Ende der siebten Folge ließ sich kein Text finden, in dem die beiden Urheber nach Ablauf der Frist alle vier Vorhersagen einzeln überprüften. Zwei Jahre vor Ablauf hatte ein Außenstehender den Termin schwarz auf weiß festgehalten. Diese Folge handelt von ihm und davon, was aus der vorgeschlagenen Bilanz wurde.

Auf der ersten Seite der Nummer 3244 steht in einer Fußnote: Der Text beruhe auf einem informellen Vortrag bei RAND im August 1964 und gebe die Meinung des Verfassers wieder. RAND druckte solche Schriften für seine Mitarbeiter. Aus einem Vortrag war ein Manuskript geworden, das im Haus zirkulierte.

Später hieß es, RAND habe den Text unterdrückt. Die Geschichte geht auf ein mehr als zehn Jahre später erschienenes Buch zurück. 1979 hielt Pamela McCorduck in Machines Who Think die Erinnerung von Paul Armer bei RAND fest: Er habe Bedenken gegen die Veröffentlichung gehabt. Sein Kollege Robert Reinstedt habe sie vorangetrieben. RAND solle eine interne Untersuchung nicht bloß deshalb zurückhalten, weil ihm ihr Ergebnis missfalle. Im Dezember 1965 erschien sie als Nummer 3244. Man hatte gezögert und sie dann gedruckt. In der Überlieferung wurde daraus: Man unterdrückte sie.

Reinstedt steht auch in der Danksagung des Dokuments, neben Stuart Dreyfus. Stuart war Hubert Dreyfus’ Bruder. Mehr als zwanzig Jahre später würden beide gemeinsam einen Aufsatz schreiben.

II. Vier Arten von Tätigkeit

Wie Nummer 3244 fragt, ist der Punkt, an dem viele spätere Darstellungen in eine andere Richtung gehen. Dreyfus fragte nicht, ob Maschinen denken können. In der Einleitung fasste er die Frage eng: Lassen sich Digitalrechner so programmieren, dass sie einfaches intelligentes Verhalten wie Kinder oder Tiere zeigen? Schach spielen, einfache Aufgaben lösen, Sätze lesen, Muster erkennen. Genau diese vier Gebiete prüft der erste Teil: Schach, Problemlösen, Sprachübersetzung und Mustererkennung. Überschrieben ist er mit Der Stand der künstlichen Intelligenz.

Der zweite Teil heißt Informationsverarbeitung bei Mensch und Maschine. Dreyfus nennt drei Unterschiede zwischen menschlicher Informationsverarbeitung und Digitalrechnern. Erstens das Randbewusstsein: Was außerhalb unserer unmittelbaren Aufmerksamkeit liegt, wirkt mit. Zweitens die Unterscheidung des Wesentlichen vom Zufälligen: Menschen erkennen, worauf es in einer Lage ankommt und was bloß zufällig so ist. Drittens die Toleranz für Mehrdeutigkeit: Menschen können mit mehreren Bedeutungen eines Satzes weitergehen und den Zusammenhang entscheiden lassen.

Die Zusammenfassung nennt eine Voraussetzung der Gegenseite. Die Optimisten glaubten damals, intelligente Tätigkeiten unterschieden sich nur durch ihre Komplexität. Diese Überzeugung und einige frühe Erfolge hätten sie glauben lassen, dass sich die Informationsverarbeitung hinter jeder kognitiven Leistung als Programm schreiben und auf einem Digitalrechner simulieren lasse. Diese Voraussetzung wollte er prüfen.

Er teilte intelligente Tätigkeiten in vier Arten ein. Zwei brauchten laut Zusammenfassung die drei menschlichen Vorgehensweisen nicht und ließen sich mit den damaligen Mitteln programmieren. Für wesentliche Fortschritte bei den anderen beiden brauche man eine ganz andere Art Computer. Das einzige Vorbild dafür sei derzeit das Gehirn, das man noch nicht verstanden habe.

Der dritte Teil unterscheidet drei Hindernisse für die Programmierung. Seine Überschriften nennen die Unendlichkeit der Tatsachen, die Unbestimmtheit der Bedürfnisse und die Wechselbeziehung des Kontexts. Das erste meint: Was man wissen muss, um etwas richtig zu tun, lässt sich nicht abschließend aufzählen. Das zweite: Was als relevant gilt, hängt davon ab, was man tun will; was man tun will, hängt wiederum davon ab, was relevant ist. Das dritte: Ein Wort erhält seinen Sinn aus dem Zusammenhang, und der Zusammenhang aus seinen Wörtern. Beim ersten kommt man mit dem Aufzählen nicht ans Ende, beim zweiten geht es stets einen Schritt zurück, beim dritten im Kreis.

Bis hierhin argumentieren die mehr als neunzig Seiten über bestimmte Programme, Vorhersagen und Aufgaben. Zwei Stellen sollten später in die Bilanz eingehen. Die eine ist der Termin November 1967. Die andere ist der Satz in der Zusammenfassung, zwei Arten der Tätigkeit müssten auf einen ganz anderen Computer warten. Beide haben eine eigene Fortsetzung.

III. Ein zehnjähriges Kind

Nach Nummer 3244 meldete sich jemand aus dem Fach zu Wort. 1968 schrieb Seymour Papert ein sechsundsiebzigseitiges Labormemorandum. Papert kam schon in zwei Folgen vor. Das Buch über Perzeptrone schrieb er mit Minsky. Der Titel des Memorandums lautete Hubert Dreyfus’ künstliche Intelligenz: eine Liste von Trugschlüssen. Der Titel war bereits die Antwort.

Die Schriftstücke sind in ihrer Form spiegelbildlich. Dreyfus’ Text entstand intern bei RAND und wurde für die Mitarbeiter gedruckt. Paperts Memorandum entstand intern im KI-Labor des MIT, ebenfalls für die eigenen Leute. Ein internes Papier antwortete auf das andere. Keines war ein Zeitschriftenaufsatz, keines war extern begutachtet. Der Streit begann auf den Vervielfältigungsmaschinen der beiden Einrichtungen.

Simons Reaktion war ein Wort. Er nannte das unter RANDs Namen gedruckte Papier Müll.

Die Reaktion außerhalb des Fachs war anders. Am 11. Juni 1966 erschien im New Yorker ein kurzer Text über Dreyfus für ein allgemeines Publikum. Darin stand, dass zu jener Zeit noch kein Rechner eine anständige Schachpartie spielen konnte. Noch nicht. Nicht: niemals.

Dann kam eine Überschrift. In den Mitteilungen der KI-Fachgruppe der amerikanischen Informatikgesellschaft stand die Sache später unter einem zweiteiligen Titel. Zuerst: Ein zehnjähriges Kind kann diese Maschine schlagen. Dahinter stand Dreyfus’ Name. Die Redaktion ergänzte: Aber die Maschine kann Dreyfus schlagen. Gemeint war eine Partie.

IV. Jene eine Partie

Der Gegner war ein Schachprogramm namens Mac Hack VI. Richard Greenblatt am MIT hatte es geschrieben. Er ergänzte ein bereits vorhandenes Schachprogramm der Hochschule um etwa fünfzig Erfahrungsregeln. Es lief auf einem DEC-Rechner, derselben Art von Rechner an derselben Hochschule wie das Bauklotzprogramm in Folge neun. 1967 spielte es in menschlichen Turnieren, mit einer Spielstärke von etwa 1.400 Punkten.

Dreyfus spielte Weiß, die Maschine Schwarz. Zu Beginn schoben beide den Königsbauern zwei Felder vor. Die Maschine gewann. Papert hatte die Partie organisiert.

Simon sprach später darüber. Es sei eine spannende Partie zwischen zwei nicht besonders guten Spielern gewesen, bis zum Ende offen. Die Maschine habe sich durch eine Reihe von Schachgeboten und eine Damengabel aus der Not befreit und dann gewonnen. Zwei nicht besonders gute Spieler. Das sagte einer der Urheber der vier Vorhersagen.

Stellen wir die Partie neben den Termin. Die erste Vorhersage von 1957 lautete, innerhalb von zehn Jahren werde es einen Weltmeister geben. 1965 schlug Dreyfus vor, im November 1967 Bilanz zu ziehen. Die Maschine auf der anderen Seite des Bretts lag um 1967 bei etwa 1.400 Punkten. Im entscheidenden Monat war der Weltmeister weiterhin ein Mensch. Die erste Vorhersage erfüllte sich nicht. In Erinnerung blieb etwas anderes: dass die Maschine Dreyfus schlug.

Dreyfus fragte, ob die Frist abgelaufen und die Maschine Weltmeister war. Die Partie beantwortete die Frage, ob sie Dreyfus schlagen konnte. Diese zweite Frage war erheblich einfacher und stammte nicht von ihm.

Die fünfte Folge erzählte von einem Verfahren, bei dem eine nicht messbare Frage durch ein messbares Spiel ersetzt wurde. Dort nahm der Fragesteller selbst den Tausch vor und schrieb ausdrücklich auf, dass er ihn vornahm. Hier wurde die Bilanz durch eine Partie ersetzt. Wer sie ersetzt hatte, war nicht derjenige, der nach der Bilanz gefragt hatte.

Dreyfus’ Einspruch ist erhalten. In einem Brief an das Mitteilungsblatt beanstandete er weder, dass die Maschine betrogen habe, noch, dass die Partie nicht zähle. Er wandte sich dagegen, dass sie einen Satz widerlegen sollte, den er nicht gesagt hatte. Seine Kritik an damaligen Programmen und seinen Zweifel an der Zehnjahresfrist habe man in die Behauptung verwandelt, Computer könnten nie Schach spielen. Dann habe man diese Behauptung mit einer Partie widerlegt. Simon erwiderte sinngemäß, wer mit einer Feder schreibe, die Zähne habe, müsse damit rechnen, dass die Gebissenen zurückbissen. In diesem Austausch ging es schon nicht mehr ums Schach.

V. Vier Voraussetzungen

Im Januar 1972 veröffentlichte Dreyfus Was Computer nicht können: eine Kritik der künstlichen Vernunft. Er ordnete darin den Stoff von 1965 neu. Der zweite Teil hat vier Kapitel, je eines pro Voraussetzung. Sie heißen im Original die biologische, die psychologische, die erkenntnistheoretische und die ontologische Voraussetzung. Was heißt das im Einzelnen?

Die biologische Voraussetzung: Auf einer bestimmten Ebene, gewöhnlich der der Neuronen, verarbeitet das Gehirn Information in diskreten Operationen. Es gibt einen biologischen Mechanismus, der den Schaltern eines Digitalrechners entspricht.

Die psychologische Voraussetzung: Man kann den Geist als Vorrichtung betrachten, die Information nach formalen Regeln verarbeitet. In ihrer stärkeren Fassung sind genau diese Regeln die, die das Verhalten tatsächlich hervorbringen.

Die erkenntnistheoretische Voraussetzung: Alles Wissen lässt sich formalisieren. Dreyfus trennt das noch einmal: Verhalten lässt sich formalisieren, und das formalisierte System lässt sich benutzen, um dieses Verhalten wieder hervorzubringen.

Die ontologische Voraussetzung: Alle für intelligentes Verhalten einschlägigen Informationen über die Welt lassen sich grundsätzlich in von konkreten Situationen unabhängige Einheiten zerlegen. Die Welt ist dann ein Haufen von Tatsachen, die logisch voneinander unabhängig sind.

Was Dreyfus mit den vier Punkten wollte, enthielt eine Einschränkung, die später besonders gründlich verschwand. Er sagte nicht, er habe die vier widerlegt. Forschende, sagte er, behandelten sie oft wie Axiome, die ein Ergebnis garantieren könnten. Er wollte sie wieder zu Hypothesen machen, die sich erst im Erfolg oder Misserfolg der Forschung bewähren müssen. Vom Axiom zur Hypothese. Nicht vom Axiom zum Irrtum.

Das Kapitel zur biologischen Voraussetzung hält noch einen Unterschied fest. Ob das Gehirn auf einer Ebene einem Digitalrechner ähnelt, ist etwas anderes als die Frage, ob die heuristischen Programme des Fachs Erfolg haben. Selbst wenn das Erste stimmt, folgt das Zweite nicht. Im erkenntnistheoretischen Kapitel trennt er die Formalisierung einer Fähigkeit von der Behauptung, sie erkläre ursächlich, wie Menschen diese Fähigkeit ausüben. Sein Angriff gilt nicht jeder mathematischen Beschreibung, sondern dem Schluss von der formalen Beschreibung auf den tatsächlichen Ablauf eines intelligenten Vorgangs.

Auch Schach kommt im Buch vor. Dreyfus zählt Schach und Go zu den komplexen formalen Systemen. Sie lassen sich grundsätzlich formalisieren. Nur wächst die Zahl der Kombinationen mit jedem Element so schnell, dass man sie praktisch nicht durchprobieren kann. Deshalb braucht man heuristische Verfahren. Im Papier von 1965 sagte er es schärfer: Menschen könnten in manchen Stellungen Nebensächliches beiseitelassen und dadurch gewinnen, die damals entworfenen Heuristiken aber nicht. Schach und Go zählte er zu den nur begrenzt programmierbaren Tätigkeiten. Das bedeutet nicht, dass Computer nie gut Schach spielen könnten. Auch 1972 gehörte Schach für ihn zu dem, was grundsätzlich formalisierbar ist.

Das Buch fällt auch harte Urteile. Nach Prüfung der damals vorliegenden Befunde schreibt Dreyfus, wesentliche weitere Fortschritte bei der kognitiven Simulation oder der künstlichen Intelligenz seien überaus unwahrscheinlich. Die Beweislast liege bei der optimistischen Seite. Das ist ein entschiedenes Urteil. Gleich darauf folgt die Einschränkung: Wie weit schnellere Rechner, bessere Programmiersprachen und klügere Heuristiken die Grenze noch verschieben können, lässt sich nur im Versuch bestimmen. Es gibt hier keine bewiesene technische Obergrenze, sondern ein Urteil, das sich am Experiment prüfen lassen soll.

In der Schlussfolgerung steht etwas, das später fast niemand zitierte. Selbst wenn eine digitale Intelligenz, die wie Athene schon bei der Geburt voll entwickelt wäre, grundsätzlich unmöglich sein sollte, bleibe eine andere Frage: Wie weit kommen die einzelnen Techniken des Fachs dem intelligenten Verhalten des Menschen nahe? Ein ganzer künstlicher Mensch und einzelne begrenzte Erfolge sind für Dreyfus nicht dieselbe Behauptung.

VI. Seine eigene Bilanz

Das Buch erschien noch zweimal, jedes Mal mit einem neuen Vorwort desselben Autors. 1979 kam eine überarbeitete Fassung heraus; der Untertitel hieß nun Die Grenzen künstlicher Intelligenz. Im neuen langen Vorwort erklärt Dreyfus sein Vorgehen. Der Haupttext bleibt. Nur einzelne unklare oder irreführende Sätze werden umgeschrieben. Das neue Material und die neuen Schlüsse aus den zehn Jahren von 1967 bis 1977 kommen in das Vorwort. Das alte Buch bleibt weitgehend, wie es war. Die neuen Zahlen stehen vorn.

Das Vorwort enthält einen neuen Gedanken. Forschende, schreibt Dreyfus, stießen nun unmittelbar auf das Problem des Alltagswissens. Der weite Hintergrund, auf den wir bei unseren Tätigkeiten zurückgreifen, bestehe vor allem aus körperlichem Können und eingeübter Praxis, nicht bloß aus einer größeren Sammlung von Tatsachen.

1992 erschien das Buch zum dritten Mal: Was Computer immer noch nicht können. Der Titel bekam ein »immer noch«. Vorn kam ein Vorwort hinzu, das von 1979 und der alte Haupttext blieben. Wer das Buch 1992 las, hielt drei Schichten in der Hand: innen den Text von 1972, darum das Vorwort von 1979 und ganz außen das von 1992. Drei Zeitpunkte im Leben eines Autors, in einem Band gebunden, das Späteste vorn.

Im Vorwort von 1992 korrigiert er sich. Was er früh über den ganzheitlichen Kontext geschrieben hatte, sei unbestimmt gewesen. Erst das Modell des Fertigkeitserwerbs seines Bruders Stuart und Arbeiten zu neuronalen Netzen hätten ihm einen konkreteren anderen Weg gezeigt. Im selben Vorwort erklärt er den Weg über Regeln und Tatsachen für gescheitert. Unmittelbar darauf schränkt er ein: Das Scheitern bedeutet nicht, dass diese Art künstlicher Intelligenz unmöglich ist. Alles Weitere gilt, wie er sagt, »zumindest im Augenblick«.

Auch die andere Stelle in Nummer 3244 hat eine Fortsetzung. Bei zwei Arten von Tätigkeiten, hieß es, müsse man für bedeutende Fortschritte auf eine andere Art Rechner warten, und ihr einziges Vorbild sei das menschliche Gehirn. 1997 schlug Deep Blue den amtierenden Weltmeister Kasparow in einem Wettkampf. Deep Blue war weiterhin ein Digitalrechner. Die Partien änderten einen Eintrag in der Bilanz, nicht den über den Alltagskontext. Jener Abend von 1957 hatte zehn Jahre gegeben. Bis zu diesem Wettkampf waren vierzig vergangen. Beide Daten stehen im selben Buch.

VII. Die Weggabelung

Im Winter 1988 veröffentlichten die Brüder in der Zeitschrift einer Akademie für Geistes- und Naturwissenschaften einen Aufsatz: Einen Geist herstellen oder ein Gehirn modellieren? Die künstliche Intelligenz erneut am Scheideweg. Der erste Satz stellt zwei Seiten vor. Die eine betrachtet den Computer als System für den Umgang mit Zeichen des Geistes, die andere als Mittel, ein Gehirn zu modellieren. Darauf folgen die Unterschiede paarweise: formale Darstellung, Problemlösen und Logik auf der einen Seite; nachgebildete neuronale Interaktion, Lernen und Statistik auf der anderen.

Das ist das andere Ende der Linie aus Folge acht. Das Buch von 1969 hatte die Grenze einer Klasse von Maschinen vermessen. Danach hieß es, die Richtung sei zehn Jahre lang tot gewesen. 1988 stellten die Brüder sie wieder an eine Seite der Weggabelung.

Die Geschichte des symbolischen Ansatzes teilten sie in drei Abschnitte. Etwa 1955 bis 1965 waren Darstellung und Suche, etwa 1965 bis 1975 Mikrowelten, nach 1975 das Problem des Alltagswissens. Zum Abschnitt über Mikrowelten zählten sie das Bauklotzprogramm der neunten Folge. Damals habe man gehofft, kleine begrenzte Welten nach und nach wirklicher zu machen und zu einem Verständnis der wirklichen Welt zusammenzusetzen. Nach 1975 habe das Problem die Forschenden gezwungen, sich mit dem breiten Alltagshintergrund auseinanderzusetzen, den man zunächst zu umgehen versucht hatte.

Die drei Abschnitte entsprechen dem bisherigen Weg dieser Reihe. Der Sommer und das Jahrzehnt der sechsten und siebten Folge stehen für Darstellung und Suche, der Tisch mit Bauklötzen aus der neunten für die Mikrowelt. Den dritten Abschnitt, das Alltagswissen, hat die Reihe noch nicht erreicht. Ein Kritiker zeichnete von außen eine Karte des Fachs und stellte sich selbst an den Eingang des dritten Abschnitts. Auf den Alltagshintergrund hatte er seit 1965 gezeigt.

Oft heißt es, Dreyfus habe hier neuronale Netze oder gar Deep Learning vorhergesagt. Am Ende des Aufsatzes steht das nicht. Die Brüder erklären neuronale Netze nicht zur Lösung. Vielleicht, schreiben sie, habe die Modellierung mit neuronalen Netzen endlich einmal die Gelegenheit bekommen, zu scheitern. Dann fragen sie, wie ein Netz auf eine Weise verallgemeinern könne, die der konkreten Lage entspricht.

Darauf folgt eine Liste. Soll ein Netz aus eigener Erfahrung menschliche Assoziationen entwickeln, die nicht von denen, die es trainieren, im Voraus festgelegt wurden, müsste es vielleicht mit Menschen einiges gemeinsam haben: ein Urteil darüber, was angemessen ist, Bedürfnisse, Wünsche, Gefühle, einen menschenähnlichen Körper, die Fähigkeit zu handeln und die Möglichkeit, verletzt zu werden. Verletzbarkeit steht am Ende der Liste.

Der Satz besagt nicht, dass Maschinen es niemals können. Sollen sie es wie Menschen können, genügt vielleicht nicht mehr Datenmaterial oder ein besserer Algorithmus. Vielleicht muss es etwas geben, das sie brauchen und wollen, und einen Körper, der wehtun kann. Auch das wird selten zitiert. Zitiert wird der Scheideweg.

2007 schrieb Dreyfus noch darüber. Sein Aufsatz in einer KI-Zeitschrift hieß Warum die heideggerianische KI gescheitert ist und warum man sie, um sie zu reparieren, heideggerianischer machen müsste. Im Titel steht reparieren.

VIII. Bilanz

Zum Schluss die Einträge, die andere für ihn machten, der Reihe nach. 1968, Papert: eine Liste von Trugschlüssen.

1979 hielt McCorduck in ihrem Buch die heftige Feindseligkeit des Fachs gegenüber Dreyfus fest. Sie selbst lehnte ihn nicht rundweg ab. Sie kritisierte den Spott in seiner Schreibweise, der Menschen abstieß, die sich sonst vielleicht hätten überzeugen lassen.

1983, Newell. Er ist in der Reihe mehrmals aufgetaucht: bei den Vorhersagen von 1957 und mit der Rezension des Perzeptronbuchs von 1969. In einem Aufsatz über die Ideengeschichte der KI schrieb er 1983, Dreyfus’ Kritik, Kontext lasse sich nicht in unabhängige diskrete Elemente zerlegen, sei ein zentraler gedanklicher Einwand. Die bisherigen Antworten hätten ihn gar nicht getroffen. Das schrieb einer der Urheber der vier Vorhersagen achtzehn Jahre nach Dreyfus’ Vorschlag, Bilanz zu ziehen. Er übernahm Dreyfus’ Schluss nicht. Er räumte ein, dass die Frage unbeantwortet war.

Im Januar 1990 veröffentlichten die Eheleute Churchland in einer populärwissenschaftlichen Zeitschrift Kann eine Maschine denken? Dreyfus’ Buch von 1972 habe sowohl die Schwächen der beispielhaften kognitiven Simulationen als auch ein Muster wiederholten Scheiterns sichtbar gemacht.

1993 schrieb Daniel Crevier eine Geschichte der KI. Sein Urteil war eingeschränkt: Einige Bemerkungen von Dreyfus hätten sich als zutreffend und scharfsinnig erwiesen. Einige, nicht alle. Weniger angriffslustig vorgetragen, fügte er hinzu, hätten die konstruktiven Gedanken vielleicht früher Gehör gefunden.

1996, McCarthy. Seine Rezension der Ausgabe von 1992 beginnt mit der Frage, woher Dreyfus wissen wolle, dass der symbolische Ansatz ein degenerierendes Forschungsprogramm sei. Das sei schwer zu erkennen. Dreyfus habe neue Arbeiten etwa zum nichtmonotonen Schließen nicht gelesen. Das Wachstum dieses Zweigs führt McCarthy als Gegenbeleg dafür an, dass die symbolische Richtung nicht mehr vorankomme.

In derselben Rezension stellt McCarthy Alltagswissen und Schließen in die Mitte des Fachs. Kontext, nichtmonotones Schließen, Introspektion und Beschreibungsebenen seien noch zu bearbeiten. Künstliche Intelligenz auf menschlichem Niveau sei derzeit keine technisch lösbare Aufgabe und werde wohl grundlegende wissenschaftliche Entdeckungen erfordern. Am Ende gibt er die Frage zurück: Dreyfus möge eine hinreichend genau und einfach beschriebene geistige Tätigkeit nennen, die Menschen eindeutig ausführen können und Computer nicht.

In der überarbeiteten Ausgabe ihres Buchs von 2004 ließ McCorduck beides stehen: die Verachtung und den Spott der sechziger Jahre und den späteren Bericht darüber, dass man einigen von Dreyfus’ Urteilen Wert beimaß.

Sehen wir neben dieser Reihe auf zwei spätere Sätze. Der eine lautet, Dreyfus sei in allem bestätigt worden. Newell räumte aber ein, dass eine Frage offen blieb, Crevier sagte »einige«, und McCarthy widersprach 1996 noch im Einzelnen. Der andere lautet umgekehrt, Dreyfus sei in allem widerlegt worden. Doch auch McCarthy stellte Alltagswissen und Kontext ins Zentrum und hielt menschliches Niveau für technisch derzeit nicht erreichbar. In beiden Sätzen fehlt etwas: im ersten das Wort »einige«, im zweiten McCarthys eigenes Zugeständnis.

Gekürzt wird wie in den früheren Folgen. Dieses Mal trifft es denselben Menschen besonders oft.

Er schrieb, für die Prüfung sei es noch zu früh und nach zehn Jahren könne man vergleichen. Überliefert wurde: Computer werden nie Schach spielen können.

Er schrieb, es gebe damals noch keinen. Überliefert wurde: Es wird nie einen geben.

Er wollte aus Axiomen wieder Hypothesen machen. Überliefert wurde: Er hat die Unmöglichkeit künstlicher Intelligenz bewiesen.

Er schrieb, das Scheitern bedeute nicht Unmöglichkeit und sein Urteil gelte vorerst. Überliefert wurde: Künstliche Intelligenz muss scheitern.

Er schrieb, neuronale Netze hätten vielleicht endlich die Gelegenheit bekommen, zu scheitern. Überliefert wurde: Er hat Deep Learning vorhergesagt.

Fünf Kürzungen, nicht alle in dieselbe Richtung. Die ersten vier machen sein Urteil endgültiger. Die letzte macht ihn zum Propheten.

Dreyfus selbst tat in siebenundzwanzig Jahren etwas anderes. Er umhüllte sein Buch Schicht um Schicht, ließ den alten Text im Inneren weitgehend unberührt und schrieb nur einige unklare Sätze um. Nach jeweils mehr als zehn Jahren fügte er außen ein Vorwort hinzu. Dort schrieb er, was unklar geblieben war, was sich nicht halten ließ und was er nun anders sagte. Das Buch von 1992 ist ein Rechnungsbuch. Wer es aufschlägt, liest zuerst die jüngste Berichtigung, weiter innen die frühere und dahinter den Menschen von 1972, den sie berichtigen.

Den Meißel-Konstrukt-Zyklus hat diese Reihe bisher bei den Menschen betrachtet, die Maschinen bauen. Sie bauen etwas, ziehen eine Grenze, und draußen bleibt etwas übrig. Also bauen sie weiter. Dreyfus war einer, der Grenzen zog. Auch seine bewegten sich. Bei jeder Verschiebung blieb die frühere im Buch stehen.

Zurück zu dem Termin. Im Dezember 1965 schrieb er auf Seite vier der Nummer 3244, man solle im Monat des zehnten Jahrestags Erwartung und Wirklichkeit nebeneinanderhalten. Der Monat verging. Die erste Vorhersage erfüllte sich nicht. Eine Maschine, die ans Brett konnte, lag bei etwa 1.400 Punkten. In Erinnerung blieben eine Partie, die er verlor, und eine Überschrift, die sagte, die Maschine könne ihn schlagen.

Der Mann, der eine Bilanz verlangte, wurde selbst zum Gegenstand einer Bilanz. Er hatte nach den vier Vorhersagen gefragt. In Erinnerung blieb der Eintrag über ihn.

Noch werden Maschinen gebaut. Wo aber die Grenze liegt, sagt jede Generation von Neuem.