Meißel-Konstrukt-Zyklus · KI-Reihe · 08

Eine Maschine, die »sich ihrer eigenen Existenz bewusst werden« sollte

Han Qin · Etwa 24 Minuten · Veröffentlicht

I. Machbarkeit

Im Januar 1957 gab eine Firma in Buffalo im Staat New York ein nummeriertes Dokument heraus. Sie hieß Cornell Aeronautical Laboratory.

Auf dem Umschlag stand Das Perzeptron: ein Automat zum Wahrnehmen und Erkennen. Als Verfasser war Frank Rosenblatt aufgeführt, mit der Dienstbezeichnung Projektingenieur. Zwei weitere Namen auf dem Titelblatt gehörten denjenigen, die das Vorhaben genehmigt hatten. Das Ganze umfasste achtundfünfzig Seiten. Umschlag, Aktennummer, Dienstbezeichnung, zwei Genehmigende: So sieht etwas aus, das abgelegt wird, damit man es nachschlagen und prüfen und bei der nächsten Bewilligung heranziehen kann.

Im Titel stehen zwei Verben: wahrnehmen und erkennen. Erst sieht man, was vor einem liegt, dann sagt man, was es ist. Das war die Aufgabe, die das Dokument sich stellte. Denken, Verstehen und Intelligenz kommen im Titel nicht vor. Beide Verben handeln davon, was mit einem eingehenden Bild geschieht.

Nahe am Anfang steht, was in dieser Phase zu tun sei: die technische und wirtschaftliche Machbarkeit festzustellen. Machbarkeit war in jenem Jahr kein Wort der Wissenschaft. Ingenieure und Geschäftsleute benutzten es jeden Tag. Kann man etwas machen? Lohnt es sich? Man gibt erst einen kleineren Betrag aus, prüft es und reicht einen Bericht ein. Damit verkündet man nicht, dass etwas gelungen ist. Man sagt, dass sich die weitere Prüfung lohnt.

Es sind zwei Arten von Machbarkeit. Technische Machbarkeit heißt, ob es sich bauen lässt. Wirtschaftliche Machbarkeit fragt, was der Bau kostet und ob er das Geld wert ist. Die zweite Hälfte wurde später selten erwähnt. Solche Berichte haben einen bestimmten Leser: jemanden, der sich fragt, ob er weiteres Geld ausgeben soll.

Diese Einschränkung stammt von dem Mann, der das Projekt führte. Jeder spätere Schritt entfernte sich ein Stück von ihr. Sie blieb stehen, am Anfang der achtundfünfzig Seiten. Niemand rührte sie an.

Die spätere Geschichte glättet das: eine Universität, ein Professor, eine lernende Maschine. Auf dem Papier von damals standen eine Firma, ein Projektingenieur, ein nummerierter Bericht und zwei Genehmigungen. Die glatte Fassung ist leichter zu erzählen, weil sie nur eine Person braucht. Vor dem Glätten gab es einen Ablauf, und Abläufe lassen sich schlecht erzählen.

Laut Januarbericht kam das Geld aus dem eigenen Forschungsprogramm des Labors. Erst im Juli 1957 begann das Office of Naval Research, das Projekt zu fördern. Rosenblatt arbeitete damals bei der Firma in Buffalo. An die Universität in Ithaca ging er erst einige Jahre später.

II. Washington, am 7. Juli

Washington, 7. Juli 1958. Die US-Marine führte an diesem Tag der Presse etwas vor. Am nächsten Tag druckte die New York Times auf Seite fünfundzwanzig einen Agenturbericht mit der Datumszeile Washington, 7. Juli. Überschrift: Neue Vorrichtung der Marine lernt durch Tun.

Der Rechner vor Ort wird im Bericht benannt: ein ausgeliehener Großrechner der Wetterbehörde, gebaut von einem Unternehmen für Büromaschinen, rund fünf Tonnen schwer und so groß wie ein Zimmer. Das Perzeptron war zu diesem Zeitpunkt ein Verfahren, das auf einem Universalrechner simuliert wurde, keine fertig gebaute Spezialmaschine.

Eine Behörde zeigte Journalisten etwas Neues, während auf der Bühne der Universalrechner einer anderen Behörde stand. Der Bericht sagte das deutlich. Später ließ man es weg, denn in der Geschichte war dafür kein Platz.

Was die Maschine vor Ort tat, steht genau da. Sie sollte angeben, ob die Markierung auf einer Karte links oder rechts lag. Nach fünfzig Durchgängen unterschied sie richtig. Das war alles. Keine Buchstaben, keine Gesichter, keine Katzen und Hunde. Links oder rechts, fünfzig Durchgänge.

Nur links oder rechts, das klingt nach wenig. Ganz wenig war es nicht: In diesen fünfzig Durchgängen änderte niemand das Programm. Die Maschine änderte ihre Zahlen selbst, und zwar anhand ihrer vorausgegangenen Fehler. Das sahen die Journalisten in dem Raum.

Im Bericht steht ein Satz über die Zukunft, der seit mehr als sechzig Jahren zitiert wird. In der Ausgabe des nächsten Tages heißt das Subjekt nicht Rosenblatt, sondern die Marine. Sie erwartete, das Gerät werde gehen, sprechen, sehen, schreiben, sich vervielfältigen und sich seiner Existenz bewusst werden können. Die Erwartung wurde der Marine zugeschrieben. Die Liste steht nicht in Anführungszeichen; keinem bestimmten Menschen wurde sie in den Mund gelegt.

Später lautet eine geläufige chinesische Fassung: Rosenblatt sagte, sein Perzeptron werde bald gehen, sprechen, sehen, schreiben, sich vervielfältigen und ein Bewusstsein seiner selbst haben. Die Liste ist dieselbe. Das Subjekt hat gewechselt. Der Bericht führt auch eine Vermutung Rosenblatts selbst an: Er hielt es grundsätzlich für möglich, in Richtung Selbstvervielfältigung und Bewusstsein zu arbeiten. Das ist nicht dieselbe Aussage wie die ganze Liste der Marine.

Wenn die Marine etwas erwartet, spricht ein Geldgeber über die Zukunft. »Erwartet« lässt Spielraum. Kein Mensch machte sich im Bericht die ganze Liste als wörtliche Aussage zu eigen. »Jemand sagte« ist etwas anderes. Da steht einer für das ein, was er in der Hand hat, und man kann ihn und andere Texte von ihm zum Vergleich heranziehen.

Macht man aus dem ersten Satz den zweiten, kommt kein neues Versprechen dazu. Nur das Subjekt wird ausgetauscht. Sechzig Jahre lang wurde der Satz dann gern zitiert, wenn man ein Beispiel für wissenschaftliche Prahlerei brauchte.

Dasselbe Ding hieß innerhalb eines Jahres dreierlei, je nachdem, wer sprach. In der Zeitung war es eine neue Vorrichtung der Marine. Rosenblatts Bericht von 1957 nannte es einen Automaten zum Wahrnehmen und Erkennen. Sein Aufsatz vom November 1958 in der Psychological Review sprach von einem Wahrscheinlichkeitsmodell für die Speicherung und Organisation von Information im Gehirn.

Drei Namen, drei Abstände. Der erste macht daraus ein Gerät, der zweite eine Maschine für zwei Aufgaben, der dritte ein Modell des Gehirns. Überliefert wurde eine Abwandlung des ersten Namens.

Am selben Tag druckte auch eine Bostoner Zeitung die Meldung. Ihre Überschrift lautete: Marine will denkenden Roboter bauen. Ein und derselbe Tag, dieselbe Meldung, zwei Titel. Der eine sagt, das Gerät lerne durch Tun; der andere verspricht einen denkenden Roboter. Schon an den beiden Titeln sieht man, in welche Richtung die Nachricht lief.

Fünf Monate später, am 6. Dezember 1958, erschien im New Yorker ein kurzer Text mit dem Titel Der Rivale. Darin stand noch, dass das Perzeptron nicht als Gerät gebaut worden war, sondern nur auf einem Rechner simuliert wurde, und dass es noch keine praktische Anwendung dafür gebe. Der spätere Bericht ist enger als der erste. Beides stand damals im Druck.

Ein Zimmer voller Menschen, ein Fünf-Tonnen-Rechner, ein Stapel Karten. In jenem Zimmer lernte eine Maschine innerhalb von fünfzig Versuchen, links von rechts zu unterscheiden. Aus diesem Zimmer ging die Nachricht hinaus, eine Maschine werde sich ihrer Existenz bewusst werden. Beide Sätze handeln von demselben Nachmittag.

III. Vierhundert Lichtpunkte

Am 15. Februar 1960 gab dieselbe Firma eine Bedienungsanleitung für das Mark-I-Perzeptron heraus. Jetzt war die Maschine gebaut.

Vorn hatte sie ein Raster aus zwanzig mal zwanzig lichtempfindlichen Feldern. Vierhundert Punkte, jeder lichtempfindlich. Hielt man eine Karte davor, wurde ihr Schwarz und Weiß zu hell und dunkel an den vierhundert Punkten.

Das Handbuch teilt die Teile der Maschine in drei Gruppen: vierhundert lichtempfindliche Punkte, fünfhundertzwölf Zwischeneinheiten und acht Ausgabeeinheiten.

Trifft Licht auf einen Punkt, gibt er vierundzwanzig Volt weiter. Eine Zwischeneinheit erhält mehrere solcher Signale und zählt sie zusammen. Erreicht die Summe einen bestimmten Wert, reagiert sie, sonst bleibt sie still. Dieser einstellbare Wert heißt im Handbuch Schwelle.

Es gibt acht Ausgänge, nicht nur einen. Die Maschine kann also mehr als Ja oder Nein sagen. Sie kann eine Karte einer von acht Gruppen zuweisen.

Die vierhundert Lichtpunkte sind mit den fünfhundertzwölf Zwischeneinheiten verbunden. Diese Verdrahtung bleibt nach der Montage unverändert. Eine Zwischeneinheit kann Signale von höchstens vierzig Lichtpunkten empfangen. Sie sieht nur einen Teil des Rasters.

An dieser Schicht ändert sich nichts. Was die Maschine im Folgenden lernt, lernt sie nicht hier. Sie wechselt nicht die Stelle, an der sie hinschaut. Sie ändert, auf wen sie hört. Das spätere Buch untersucht genau diese Anordnung.

Verändern lässt sich etwas in der nächsten Schicht. Das Signal von einer Zwischeneinheit zu einer Ausgabeeinheit kann unterschiedlich stark sein. Das Handbuch nennt die veränderliche Größe ein Gewicht. In dieser Maschine ist ein Gewicht ein Potentiometer.

Ein Potentiometer ist so ein Knopf wie am Radio. Dreht man ihn ein wenig, fließt mehr oder weniger Strom. Beim Mark I drehen kleine Elektromotoren die Potentiometer, keine Hände. Beim Training treibt die auf der Ausgabeseite erzeugte Spannung diese Motoren an. Sie drehen die Knöpfe um einen bestimmten Winkel.

Darin steckt ein Kreis. Die Antwort kommt am Ausgang heraus. Das Urteil über richtig oder falsch kehrt von dort zurück, wird zu Spannung, zu einer Drehung des Motors und zu einer neuen Stellung des Knopfs. Wenn die nächste Karte kommt, ist die Maschine nicht mehr genau dieselbe. Einmal lernen heißt für sie, dass sich eine Reihe von Knöpfen jeweils ein wenig dreht.

Lernen hat an dieser Maschine eine sichtbare Gestalt. Motoren laufen, Achsen drehen sich, Knöpfe stehen anders. Das ist kein Bild. Was eine Maschine 1960 gelernt hat, sind physische Stellungen. Man kann sie messen und ertasten. Schaltet man den Strom ab, bleiben sie, wo sie sind.

Beide Schichten zusammen arbeiten so: Die Zwischeneinheiten sehen verschiedene Teile der Punkte und melden je ein Ergebnis. Die Knöpfe regeln das Gewicht dieser Ergebnisse am Ausgang. Die Ausgabeeinheiten addieren, was ankommt, und vergleichen die Summe mit einer Schwelle.

Beim Trainieren regelt man die Lautstärke. Nach einem Fehler kann das Trainingssignal manche Beiträge für den richtigen Ausgang lauter und manche für den gewählten falschen Ausgang leiser drehen. Daraus ergibt sich die Frage des Buches von 1969. Jede Einheit sieht einige Punkte. Ihre Ergebnisse werden addiert. Was lässt sich so entscheiden?

Die ganze Maschine hatte zwischen einigen Hundert und einigen Tausend verstellbare Stellen. Ein Modell auf einem heutigen Mobiltelefon hat mehr als eine Million Mal so viele.

Die Maschine gibt es noch. Das National Museum of American History bewahrt zwei ihrer Schränke auf, beide höher als ein Mensch. Im Handbuch steht ein Foto. Darauf bewegt sich nichts: Schränke, Tafeln, Leitungen.

Später lernte der Mark I, Quadrate von Kreisen, Quadrate von Rauten und mehrere Gruppen von Buchstaben zu unterscheiden. Er konnte es lernen.

Die Gestalt der Maschine lässt sich jetzt angeben: vierhundert Lichtpunkte, eine feste Schicht von Leitungen, Einheiten mit kleinem Sichtfeld, eine Schicht von motorisch gedrehten Knöpfen, acht Ausgänge. Diese Gestalt hat eine Grenze. Neun Jahre später wurde sie vermessen.

IV. Was das Buch bewies

1969 erschien beim Verlag des MIT ein Buch: Perceptrons: An Introduction to Computational Geometry. Der Haupttext hatte zweihundertachtundfünfzig Seiten. Die Autoren waren Marvin Minsky und Seymour Papert.

Minsky ist in früheren Folgen vorgekommen. Sein Name stand auf dem Antrag für den Sommer 1956. Das Buch über Berechnung von 1967 war von ihm, und das wörtliche Zitat von 1970 über drei bis acht Jahre trug ebenfalls seinen Namen. 1969 war er einer der beiden Leiter des KI-Labors am MIT. Papert war dort zuvor schon Professor für angewandte Mathematik gewesen und wurde später ebenfalls einer der Leiter des Labors.

Der Titel steht im Plural. Perzeptrone. Auf diesen Plural wurde später eigens hingewiesen. Der Gegenstand im Buch ist keine einzelne Maschine, sondern eine Klasse. Das Buch definiert ihre Gestalt: Vorn gibt es eine Reihe von Einheiten, die jeweils nur einen Teil der Bildpunkte sehen und jeweils Ja oder Nein melden. Dahinter werden die Antworten mit ihren Koeffizienten addiert, an einer Schwelle gemessen und zu einer Antwort zusammengeführt. Die Gestalt entspricht dem Mark I: vierhundert Lichtpunkte vorn, Einheiten mit je einigen sichtbaren Punkten in der Mitte, eine Schicht einstellbarer Koeffizienten dahinter und ganz am Ende die Ausgabe.

Will ein mathematisches Buch etwas beweisen, muss es seinen Gegenstand zuerst festlegen. Erst dann lässt sich rechnen. Im Augenblick der Festlegung bestimmt das Buch auch seine Reichweite. Darum ging ein großer Teil der späteren Auseinandersetzung: Ist die festgelegte Klasse dasselbe wie das ganze Gebiet, das die Leute vor Augen haben?

Die Frage des Buches ist: Was lässt sich in dieser Gestalt entscheiden, und was nicht? Dazu ordnet es jeder Entscheidung eine Zahl zu. Sie sagt, wie viele Punkte die Einheit mit dem weitesten Blick mindestens gleichzeitig sehen können muss, um die Entscheidung zu treffen. Reicht der Blick auf einen Punkt, ist es eine Eins. Sind drei Punkte auf einmal nötig, eine Drei. Das Buch nennt die Zahl Ordnung.

Die Ordnung lässt sich über wachsende Bilder hinweg vergleichen. Geht man von zehn Punkten auf hundert oder tausend, bleibt die nötige Ordnung gleich oder steigt sie mit? Steigt sie immer weiter, reicht es nicht, jedem Bestandteil eine feste Höchstzahl an Eingangspunkten zu geben. Die Ordnung zählt Punkte; sie verlangt nicht, dass die Punkte im Bild benachbart sind.

Die Erbauer wussten, dass ihr Gerät Quadrate und Kreise unterscheiden konnte. Ob diese Gestalt an sich weit genug reichte, war offen. Zwei Menschen rechneten einige Jahre daran und erhielten eine Reihe von Ergebnissen.

Die beschränkte Punktzahl jeder Einheit hatte an der wirklichen Maschine eine Entsprechung. Laut Handbuch konnte man höchstens vierzig Lichtpunkte mit einer Einheit verbinden. Eine Einheit, die alle vierhundert gleichzeitig sah, hätte 1960 vierhundert Leitungen zu einem einzigen Punkt bedeutet. Der ganze Entwurf sollte gerade verhindern, dass man so verdrahten musste.

Darin lässt sich die Klasse aus dem Buch mit dem in Buffalo gebauten Gerät vergleichen. Ob diese Klasse mit der ganzen Forschungsrichtung zusammenfällt, ist eine andere Frage. Schon ein Jahr später stellte sie jemand.

Ein Kapitel handelt von der Parität: Leuchten im Bild ungerade oder gerade viele Punkte? Die Ordnung dieser Entscheidung wächst mit dem Bild und bleibt nach oben unbeschränkt. Um die Parität zu bestimmen, muss eine Einheit das ganze Bild zugleich sehen. Die Frage im Buch lautet gerade, was passiert, wenn jede Einheit nur bis zu einer festen Punktzahl sehen darf, das Bild aber immer größer werden kann.

Zwei Punkte können auf vier Arten leuchten. Ungerade ist es, wenn genau einer leuchtet. Das ist das exklusive Oder. Legt man die beiden Eingaben einer linearen Entscheidung unmittelbar vor, bilden die vier Fälle vier Punkte, die keine Gerade nach Parität trennt. Erlaubt man zuerst einer Einheit, beide Eingaben zugleich zu sehen, geht es nicht mehr darum, die vier Punkte direkt mit einer Geraden zu trennen. Das Argument im Buch ist viel allgemeiner. Es fragt, wie viele Punkte gleichzeitig zu sehen sein müssen.

Ein anderes Kapitel handelt von Zusammenhang: Ist eine Figur zusammenhängend oder in zwei Teile getrennt? Das Buch nennt Zusammenhang eine geometrische Eigenschaft von unbeschränkter Ordnung. Bei einfachen Figuren erkennt ein Mensch den Unterschied oft auf einen Blick.

Man stelle sich die Maschine dabei vor. Die fünfhundertzwölf Einheiten sitzen hinter dem Raster und sehen nur die Punkte, an die sie angeschlossen sind. Liegt eine Figur darauf, kann sich die Lücke überall befinden. Eine Einheit, die zufällig die Punkte bei der Lücke sieht, könnte sie melden. Für alle anderen sehen die unterbrochene und die durchgehende Figur gleich aus.

An einer Zeichnung zu vermuten, welche Stelle übersehen wird, ist noch kein Beweis. Das Buch zeigt etwas anderes: Für beliebig große Figuren gibt es keine feste Höchstzahl von Punkten, mit der das Addieren solcher lokalen Urteile den Zusammenhang stets richtig bestimmt.

Wenn jede Einheit eine feste Obergrenze hat und das Bild beliebig groß sein kann, ist die Aufgabe nicht zu entscheiden, gleichgültig, welche Koeffizienten die Einheiten erhalten. Was Menschen bei einfachen Figuren meist auf einen Blick sehen, kann eine Klasse von Maschinen aufgrund ihrer Gestalt nicht allgemein entscheiden. Das ist die vermessene Grenze.

Andere Kapitel handeln von Perzeptronen mit beschränktem Durchmesser, von der Größe der Koeffizienten, vom Lernen, von linearer Trennbarkeit und Lernen. Zwei Kapitel tragen Lernen im Titel. Das Buch geht dem Lernen also nicht aus dem Weg. Wer zweihundertachtundfünfzig Seiten zu einem Beweis über vier Punkte zusammenpresst, lässt den größten Teil weg.

V. Oder widerlegen

Das letzte Kapitel ist das dreizehnte. Dort geht es darum, was passiert, wenn man die beschriebene Gestalt auf mehrere Schichten erweitert.

Auf Seite 231 steht ein oft zitierter Satz, von dem meist nur die zweite Hälfte vorkommt. Der ganze Satz ist eine Aufforderung. Die Autoren bitten spätere Forscher, »unser intuitives Urteil, eine solche Erweiterung werde nichts erbringen«, zu klären oder zu widerlegen. »Oder widerlegen« steht im Original als Einschub in Klammern.

Man kann den Satz Schicht für Schicht abschälen.

Der Einschub fällt fort: »Unser intuitives Urteil« lautet, eine solche Erweiterung werde nichts erbringen.

»Unser« fällt fort: Das intuitive Urteil lautet, eine solche Erweiterung werde nichts erbringen.

»Intuitives Urteil« fällt fort: Eine solche Erweiterung wird nichts erbringen.

»Eine solche« fällt fort: Mehrere Schichten werden nichts erbringen.

Noch ein Schritt, mit anderen Worten: Das Buch hat bewiesen, dass mehrere Schichten nicht funktionieren.

Der erste Satz ist eine Aufforderung zur Forschung, der letzte klingt nach einem Lehrsatz. Die Schnitte oben vergleichen den Wortlaut mit der geläufigen Nacherzählung. Sie geben keine belegte Reihenfolge der Überlieferung wieder. Zwischen den beiden Enden fallen am ehesten die verschwundenen Einschränkungen auf.

Mit jeder Schicht, die fehlt, lässt sich der Satz etwas leichter gebrauchen. Mit einer Aufforderung lässt sich schlecht zitierend argumentieren, mit einem Lehrsatz schon. Ein intuitives Urteil kann eine Sache nicht abschließen, ein Lehrsatz kann es.

Am Ende ist nicht einmal mehr der Buchtitel nötig. »Es ist bewiesen, dass es nicht geht« genügt. Dahinter kann irgendein Buch stehen. Ist ein Satz so weit abgeschält, gehört er nicht mehr denen, die ihn geschrieben haben, sondern allen, die ihn brauchen.

Die Beweise in diesem Buch haben eine Form. Das zu Beweisende steht als Satz mit einer Nummer da. Darunter folgt der Beweis, mit einem klaren Ende. In den zweihundertachtundfünfzig Seiten finden sich Dutzende solcher Stellen.

Der Satz auf Seite 231 hat keine Nummer. Darunter steht kein Beweis. Er bittet andere, sich später an die Arbeit zu machen. Wer das Buch von 1969 aufschlägt, kann beides am Satzbild auseinanderhalten. In der Nacherzählung reist das Satzbild nicht mit. Sobald der Satz das Papier verlässt, bleiben Nummer, Beweis und dessen Ende zurück. Es reist nur der Sinn des Satzes weiter.

Im selben Absatz lassen die Verfasser noch zwei Dinge für später offen: einen womöglich beweisbaren Konvergenzsatz und die tieferen Gründe, aus denen Lernen fehlschlagen kann. Der Absatz ist grammatisch eine Forschungsfrage, kein bereits erbrachter Unmöglichkeitsbeweis.

Nach Erscheinen des Buches gab es zwei namentlich gezeichnete Rezensionen. Die eine schrieb Allen Newell; sie erschien am 22. August 1969 in Science. Newell ist aus der vorigen Folge bekannt. Die vier Vorhersagen, die 1957 beim Abendessen verlesen wurden, hatten er und Simon gemeinsam erarbeitet. In seiner Rezension beurteilte er das Buch sehr positiv. Eine allgemeine wissenschaftliche Wochenzeitschrift druckte im Sommer des Erscheinungsjahrs ein großes Lob. Kein Urteil, kein Beschluss, keine Bekanntmachung. Eine Rezension.

Die andere schrieb H. D. Block. Sie erschien im Dezember 1970 in Information and Control. Block fand, die analysierte Klasse von Maschinen sei zu stark eingeschränkt. Man dürfe sie nicht ohne Weiteres mit Rosenblatts ganzem Forschungsprogramm gleichsetzen. Der Buchtitel sei deshalb irreführend.

Ein Buch heißt Perzeptrone und berechnet die Klasse, die es selbst festgelegt hat. Schon im Dezember 1970 sagte das jemand aus dem Fach, in einer Fachzeitschrift und unter eigenem Namen.

Zwei zeitgenössische Reaktionen, sechzehn Monate auseinander: ein sehr hohes Lob und ein Einwand gegen die Reichweite. Ein Buch, zwei Rezensionen. Die Szene, in der ein Buch eine ganze Richtung zu Fall bringt, wurde später erzählt. Blocks Einwand wurde in den nächsten sechzig Jahren oft wiederholt. Im Dezember 1970 stand er schon auf Papier.

VI. Das Nachwort zwanzig Jahre später

1988 brachte derselbe Verlag eine erweiterte Ausgabe heraus. Das Nachwort hieß Der neue Konnektionismus, vierunddreißig Seiten hinter einem neunzehn Jahre alten Buch. Wenn ein Buch ein Nachwort braucht, damit seine Autoren erklären können, was sie seinerzeit geschrieben haben, gehört es ihnen nicht mehr ganz.

Die Autoren schrieben es, weil etwas zu erwidern war. 1986 war Parallel Distributed Processing erschienen, ein zweibändiges Werk, herausgegeben von Rumelhart und McClelland. Es stand dafür, dass sich diese Forschungsrichtung wieder sammelte.

Im ersten Band steht, Minskys und Paperts Beurteilung der Perzeptrone habe zu Unrecht die interessanteren und leistungsfähigeren Netze in Mitleidenschaft gezogen. »In Mitleidenschaft gezogen« heißt nicht, dass das Buch sich verrechnet hatte. Sein Ruf legte sich auf Dinge, die darin nicht berechnet wurden.

Das Nachwort von 1988 zitiert den ganzen Absatz und fügt hinzu: »Wir erkennen uns in dieser Beschreibung kaum wieder.«

Darauf ziehen die Autoren selbst eine Grenze. Die meisten Sätze des ursprünglichen Buches, schreiben sie, beträfen ausdrücklich Maschinen mit nur einer Schicht verstellbarer Verbindungsgewichte. So bestimmen die Verfasser von 1988 die Reichweite des Buchs von 1969. Das geht in dieselbe Richtung wie Blocks Rezension von 1970. Achtzehn Jahre später kommt der Einwand von außerhalb des Buches in das Buch hinein, vom Rezensenten zu den Autoren.

Gleich danach fügen sie hinzu, daraus folge nicht von selbst, dass die betreffenden Erscheinungen im Fall mehrerer Schichten ganz ausblieben. Das sei für jeden Fall einzeln zu prüfen. Das Nachwort trennt zwei Seiten des damaligen Problems. Maschinen mit einer Schicht veränderlicher Gewichte haben ein Lernverfahren, das konvergiert, können aber nur Begrenztes darstellen. Mehrschichtige Netze können viel mehr darstellen, hatten aber lange kein ebenso zuverlässiges Lernverfahren. Die Autoren beurteilen danach die damals neu vorgeschlagenen Regeln zur Änderung der Gewichte.

Auf den folgenden Seiten widersprechen sie einerseits der Darstellung, Gradientenverfahren und Hillclimbing taugten allgemein. Sie benennen Schwierigkeiten mit der Größe, lokalen Minima, der Art der Aufgaben und der Struktur. Andererseits befürworten sie ausdrücklich den empirischen Einsatz in neuen Gebieten und rechnen mit wichtigen Fortschritten. Auch dieses Nachwort besteht also nicht aus einem Nein.

Das Nachwort sagt, welche Grenze die Autoren zwanzig Jahre später anerkannten. Was 1969 auf Papier stand, erfährt man am Papier von 1969. Die Klammer auf Seite 231 stand schon damals da. In dem Austausch zwanzig Jahre später sprechen die Seiten nicht über dasselbe. Die eine spricht darüber, wozu das Buch später benutzt wurde. Die andere darüber, was seinerzeit drinstand.

VII. Die Aufsätze des Jahrzehnts

Am 11. Juli 1971 kam Rosenblatt bei einem Bootsunglück in der Chesapeake Bay ums Leben. Es war sein dreiundvierzigster Geburtstag.

Die übliche Geschichte über die zehn Jahre nach dem Buch lautet: Die Richtung war tot. Kein Geld, keine Leute, keine Aufsätze. Was die Aufsätze betrifft, stehen sie alle im Druck.

1972 erschien Shun’ichi Amaris Lernen von Mustern und Musterfolgen durch selbstorganisierende Netze aus Schwellenelementen in einer Computerfachzeitschrift. Im selben Jahr und in derselben Zeitschrift veröffentlichte Teuvo Kohonen Korrelationsmatrixspeicher. James Anderson veröffentlichte Ein einfaches neuronales Netz zur Erzeugung eines interaktiven Gedächtnisses in einer Zeitschrift für mathematische Biowissenschaften. 1973 erschien Christoph von der Malsburgs Selbstorganisation orientierungsempfindlicher Zellen im striären Kortex in einer kybernetischen Zeitschrift. 1975 veröffentlichte Kunihiko Fukushima Das Cognitron: ein selbstorganisierendes mehrschichtiges neuronales Netz in einer Zeitschrift für biologische Kybernetik. 1976 erschien Stephen Grossbergs Adaptive Musterklassifikation und universelle Rekodierung. 1978 reichte Geoffrey Hinton seine Dissertation in Edinburgh ein: Relaxation und ihre Rolle beim Sehen.

Die Titel enthalten die Wörter jener Jahre: Selbstorganisation, Schwellenelemente, Korrelationsmatrix, Rekodierung, Relaxation. Die Verfasser arbeiteten in ihren eigenen Disziplinen an ihren eigenen Fragen, in der Physiologie, der visuellen Wahrnehmung oder der Gedächtnisforschung. Sie machten mit Themen weiter, die nicht ohnehin unter künstliche Intelligenz fielen. Wird eine Richtung aus einer Disziplin gedrängt, ist sie nicht aus allen Disziplinen gedrängt.

Im Titel von 1975 steht schon mehrschichtiges neuronales Netz. Sechs Jahre nach dem Buch, das die Untauglichkeit mehrerer Schichten bewiesen haben soll, erschien ein Aufsatz mit mehrschichtig im Titel. Beides ist wahr: Das Buch erschien, der Aufsatz auch. Was »zehn Jahre lang kein einziger Aufsatz nach 1969« mit Blick auf die Publikationen bedeutet, zeigt die Liste.

1996 erschien in einer wissenschaftssoziologischen Zeitschrift eine Untersuchung der Auseinandersetzung von Mikel Olazaran. Seiner Darstellung zufolge war die Konkurrenz zwischen der Perzeptronforschung und der anderen Richtung Ende der fünfziger, Anfang der sechziger Jahre schon mit Spezialisierung, Autoritätsstrukturen und Ressourcenverteilung verflochten. Nach dem Buch ging die Tätigkeit deutlich zurück und verlagerte sich in Fächer außerhalb der künstlichen Intelligenz, während einige wenige weiter daran arbeiteten. Seine These war nicht, es sei nichts geschehen. Rückgang und Verlagerung geschahen zugleich.

Olazaran tat noch etwas. Er machte die Fassung »Das Buch erschien, und das Fach war tot« selbst zum Gegenstand und nannte sie eine offizielle Geschichte.

Einen Teil der Namen in der Liste trug er selbst von verschiedenen Orten zusammen: eine Gruppe aus Europa, eine aus Amerika, eine aus Japan. Alle Aufsätze waren damals erschienen und standen in Zeitschriften, die man nachschlagen konnte. Bis man sie zwanzig Jahre später als Gegenbeleg versammelte, musste jemand eigens fragen, wie es zur heutigen Geschichte über diese Jahre gekommen war. Etwas, woran sich niemand erinnert, ist nicht dasselbe wie etwas, das nie geschah. Dieser Unterschied war schon in der vorigen Folge zu sehen.

Der Zweibänder von 1986 sprach von einer Richtung, die in Mitleidenschaft gezogen wurde. In einem Rückblick der Universität von 2019 war die Wortwahl stärker. Das Buch habe Rosenblatts Arbeit den weiteren Weg abgeschnitten. Zwischen »in Mitleidenschaft ziehen« und »das Schicksal besiegeln« lagen dreiunddreißig Jahre. Keiner der beiden Texte gibt an, in welchem Jahr wie viel Geld ausblieb. Vergleichen lässt sich die Wortwahl. Die spätere ist stärker.

VIII. Zweimal gekürzt und verändert

Diese Folge enthält zwei Nacherzählungen. Die erste beginnt 1958. In der Zeitung war die Aussage über die Zukunft der Marine zugeschrieben: Sie erwarte, dass das Gerät all diese Dinge eines Tages tun könne. In der überlieferten Fassung liegen genau dieselben Dinge im Mund eines Mannes: Er sage, seine Maschine werde es bald können. An der Liste wurde kein Wort geändert. Geändert wurde der halbe Satz davor.

Die Erwartung einer Behörde und die Zusicherung einer Person bringen verschiedene Verantwortungen mit. Für die erwartete Entwicklung, die ein Agenturbericht einer Einrichtung zuschreibt, muss man nach deren Aussagen fragen. Verspricht ein Mensch etwas für seine Maschine, braucht man zuerst seine eigenen Worte. Gestrichen wurde die Zuordnung des Subjekts. Danach fiel der Satz einer Person zu.

Die zweite Veränderung geschah nach 1969. Der ursprüngliche Satz war eine Aufforderung. Die Verfasser nannten ein intuitives Urteil und baten spätere Forscher, es zu klären oder zu widerlegen. Das Urteil lautete, dass eine solche Erweiterung nichts erbringen werde.

Später klingt der Satz nach einem Lehrsatz: Das Buch habe bewiesen, dass mehrere Schichten nicht funktionieren. Gestrichen wurden drei Ebenen: »oder widerlegen«, »unser« und »intuitives Urteil«. Das eine ist eine offene Frage, das andere ein Ergebnis. Dazwischen liegt die Arbeit, die nach dem Wunsch der Autoren noch zu tun war.

Die Kürzungen haben entgegengesetzte Richtungen. Die erste macht das Versprechen größer, die zweite das Urteil endgültiger. Der Handgriff ist derselbe: Man lässt die Einschränkungen weg.

Einschränkungen schaffen dem Sprecher Spielraum. Sie kosten im Wortlaut Platz und fallen in der Nacherzählung zuerst weg, weil sie die Erzählung nicht tragen. Diese braucht ein Subjekt, eine Tat und ein Ergebnis. »Die Marine erwartet« ergibt noch nicht Subjekt, Tat und Ergebnis. Ein Mann prahlt, das schon. »Spätere Forscher mögen unser intuitives Urteil widerlegen« ergibt es auch nicht. »Ein Buch hat bewiesen, dass es nicht geht« schon.

Setzt man die beiden Kürzungen zusammen, erhält man die heute geläufige Geschichte. Ein Mann versprach zu viel. Ein Buch bewies, dass er unrecht hatte. Die Richtung war daraufhin zehn Jahre lang tot. Jeder Satz ist das, was von einer eingeschränkten Aussage übrig blieb, nachdem man ihr die Einschränkung genommen hatte.

Im ersten Wortlaut war es die Erwartung der Marine, nicht die des Mannes. Im zweiten überließen die Verfasser ihr Urteil der möglichen Widerlegung und behaupteten nicht, es bewiesen zu haben. Im dritten war von Auswirkungen auf andere Forschung die Rede, nicht vom Einfrieren. Zudem gab es in diesen zehn Jahren Aufsätze, einen mit mehrschichtig im Titel.

Eine Sache unterscheidet sich von den vorherigen Folgen. Das Buch von 1969 vermaß eine Grenze. Die früheren Grenzen wurden meist in Sätzen gezogen: Maschinen können nur tun, was man ihnen aufträgt; Maschinen können nichts aus sich heraus hervorbringen. Solche Grenzen kann man später wiederholen oder bestreiten. Sie tragen keine Maße.

1969 definierte das Buch zunächst die Gestalt: Einheiten mit einer Höchstzahl von Punkten, die sie zugleich sehen können, eine Schicht einstellbarer Koeffizienten und eine Schwelle. Dann fragte es, was diese Gestalt nicht entscheiden kann. Darauf gab es eine Antwort mit einer berechenbaren Zahl: Wie viele Punkte muss mindestens eine Einheit auf einmal sehen, um diese Sache zu entscheiden?

Bei der Parität muss es das ganze Bild sein. Beim Zusammenhang ist auch diese Zahl nicht nach oben beschränkt. Was übrig blieb, wurde dieses Mal vermessen.

Eine vermessene Grenze lässt sich prüfen. Man schreibt die Definition ab und rechnet die Zahl nach. Will man weiter hinaus, kann man Einheiten mehr Punkte zugleich sehen lassen oder ihre Antworten in mehreren Schichten neu miteinander verbinden. Mit der Gestalt ändert sich die Frage, was sie kann.

Alles Gebaute hat eine Gestalt. Außerhalb ihrer Grenzen bleiben immer Aufgaben. In den vorherigen Folgen hieß das der Rest. Auf ihn ließ sich meist nur zeigen: Da ist noch etwas. 1969 bekam der Rest ein Maß. Wie viele Punkte sind es? Wächst die Zahl? Gibt es eine Obergrenze?

Überliefert wurde dann ein Urteil. Aus dem berechneten Maß wurde in der Nacherzählung ein »geht nicht«. Das ging so glatt, weil am Maß eine ganze Reihe von Einschränkungen hing und am Urteil keine. Am Maß hängen diese Klasse, diese Gestalt, diese Art von Lokalität, diese Schwelle und diese Weise, mit dem Bild zu wachsen. Am Urteil hängt nichts davon.

Je genauer man die Grenze vermisst, desto mehr Einschränkungen nennt man. Je mehr es sind, desto schlechter reisen sie. Das macht die Sache schwierig. Man misst genau, damit andere weiterrechnen können. Doch je genauer die Messung, desto mehr fällt bei der Weitergabe weg. Ein Buch ohne Maße wird als ein Satz weitergegeben. Ein Buch mit Maßen auch, nur dass der Satz dann noch den Namen des Buches trägt.

Hier ist das sichtbar, weil die Originale an beiden Enden erhalten sind. Der Einschub auf der Seite von 1969 steht noch da. Das Subjekt auf Seite fünfundzwanzig vom 8. Juli 1958 ebenfalls.

Drei Leerstellen bleiben, keine davon am Rand. Wann die Erwartungen von der Marine auf einen einzelnen Menschen übergingen, wurde hier nicht ermittelt. Feststehen nur die beiden Enden: Die Zeitung ordnet die sechs Erwartungen der Marine zu, heutige Nacherzählungen teils einem Einzelnen. Wann eine Aufforderung aus einem Buch zu einem Urteil wurde, ließ sich ebenfalls nicht feststellen. 1969 steht auf Seite 231 eine Aufforderung. Heute wird ein Lehrsatz überliefert. Auch fehlt eine vollständige Rechnung über die Mittel für diese Richtung in den USA in jenen Jahren. Ebenso wenig ließ sich feststellen, wer zuerst schrieb, ein Buch habe die Finanzierung zehn Jahre lang eingefroren.

Drei Leerstellen gegenüber drei geläufigen Sätzen. Jeder Satz hat nur noch ein Ende, und es ist das Ende, das sich gut erzählen lässt.

Am Schluss zurück zum nummerierten Bericht vom Januar 1957. Die Machbarkeit, die dort festgestellt werden soll, hat zwei Seiten: die technische und die wirtschaftliche. Geschrieben hatte das der Leiter des Projekts selbst.

Anderthalb Jahre später sollte dasselbe Ding in der Zeitung gehen, sprechen, sehen, schreiben, sich vervielfältigen und seiner eigenen Existenz bewusst werden. Elf Jahre darauf vermaß ein Buch, was dieses Ding nicht entscheiden konnte, und setzte auf Seite 231 selbst eine Klammer. Später waren die Klammer und die Machbarkeit weg. Zwei Sätze blieben: Man hatte das Gerät übermäßig angepriesen, und später war bewiesen worden, dass es nicht funktioniert.

Beide Sätze sind nicht der ursprüngliche Wortlaut. Beide sind kurz, glatt und ohne Einschränkung; beide lassen sich gut gebrauchen. Der ursprüngliche Wortlaut steht seit über sechzig Jahren unverändert auf dem Papier.

Noch werden Maschinen gebaut. Wo aber die Grenze liegt, sagt jede Generation von Neuem.