I. Ich werde diese Frage durch eine andere ersetzen
Im Oktober 1950 stand am Anfang eines Vierteljahreshefts ein achtundzwanzigseitiger Aufsatz von Alan Turing: Rechenmaschinen und Intelligenz.
Die Zeitschrift erschien vierteljährlich und war der Psychologie und Philosophie gewidmet. Ihr Herausgeber war der Philosoph Gilbert Ryle, und die anderen Beiträge des Heftes stammten von Philosophen. Hier reichte also ein Mathematiker einen Aufsatz bei einer philosophischen Zeitschrift ein.
Turing war damals Senior Lecturer im Fach Mathematik an der Universität Manchester. Im Herbst und Winter des Vorjahres hatte es dort mehrere Gespräche über Geist und Maschine gegeben. Dabei waren unter anderem der Mathematiker Newman, der aus der Chemie kommende Polanyi, der Neurochirurg Jefferson und ein Zoologe.
Der Aufsatz hat sieben Abschnitte, keine Zusammenfassung, keine Abbildungen und kein Literaturverzeichnis am Schluss. Die Quellen stehen im Text: Gödel, Church, Kleene, Rosser, Turings eigenes Ergebnis von 1937, Jeffersons Vorlesung von 1949, Lovelaces Anmerkungen über die Analytical Engine und Hartrees Buch von 1949. Auch Babbage kommt als historische Figur vor. In einer philosophischen Zeitschrift berief sich ein Mathematiker zur einen Hälfte auf Logiker, zur anderen auf einen Neurochirurgen und eine Gräfin des neunzehnten Jahrhunderts.
Der erste Satz stellt die Frage: Können Maschinen denken?
Gleich darauf sagt Turing: Wollte man sie wie gewöhnlich beantworten, müsste man zuerst die beiden Wörter Maschine und Denken bestimmen. Suchte man ihre Bedeutung aber im alltäglichen Gebrauch, wären Bedeutung und Antwort durch eine statistische Erhebung nach Art einer Meinungsumfrage zu bestimmen. Das nennt er absurd.
Er wendet sich nicht gegen das Definieren. Er wendet sich dagegen, die Definition auf eine Statistik des Sprachgebrauchs zu stützen. Wenn man die Bedeutung eines Wortes durch Abzählen bestimmt, hängt die Frage, ob Maschinen denken, davon ab, wie viele Menschen gerade dazu bereit sind, es so zu sagen.
Also schreibt er: Ich werde diese Frage durch eine andere ersetzen.
Er sagt nicht, die alte Frage sei eine Scheinfrage, man dürfe sie nicht stellen oder die neue sei mit ihr identisch. Er sagt, die neue sei eng mit der alten verwandt und in vergleichsweise eindeutigen Worten gefasst.
Eng verwandt heißt nicht identisch. Vergleichsweise eindeutig heißt nicht frei von Mehrdeutigkeit. Beide Einschränkungen stammen von ihm selbst. In den mehr als siebzig Jahren danach wurden sie selten gemeinsam zitiert.
Die später verbreitete Aussage, die Frage sei zu sinnlos, um erörtert zu werden, steht nicht hier. Sie steht am Anfang des sechsten Abschnitts. Da hat Turing das Spiel längst erklärt und die Maschine formal bestimmt. Der erste Absatz ist zurückhaltender. Liest man den Satz aus dem sechsten Abschnitt schon hier hinein, ändert sich der Ton des ganzen Aufsatzes. Aus jemandem, der eine andere Frage stellen will, wird jemand, der die ursprüngliche Frage für unwürdig hält, überhaupt erörtert zu werden.
II. Das Spiel in seiner ursprünglichen Form
Das Spiel aus dem ersten Abschnitt beginnt mit drei Personen.
A ist ein Mann. B ist eine Frau. C stellt die Fragen und kann Mann oder Frau sein.
In diesem Aufbau geht es nicht darum, Mensch und Maschine zu unterscheiden, sondern Mann und Frau. Alle drei sind Menschen. In dieser Fassung kommt keine Maschine vor. Sie tritt erst im nächsten Absatz hinzu, nimmt den Platz eines Menschen ein und übernimmt dessen bisherige Aufgabe.
C sitzt in einem anderen Raum und kennt die unsichtbaren Personen nur unter ihren Kennzeichen, etwa X und Y. Am Ende muss C entscheiden, welches Zeichen den Mann und welches die Frau bezeichnet.
C kann beiden Fragen stellen. Turings erstes Beispiel lautet: X möge mir sagen, wie lang sein oder ihr Haar ist.
A, der Mann, soll Verwirrung stiften und C zu einer falschen Entscheidung verleiten. In Turings Beispiel beschreibt A sein Haar als weiblich frisiert. Die Handlung im Kern des Spiels ist die Verstellung: Einer gibt sich als jemand anderer aus, die andere versucht, die Wahrheit zu sagen, und dazwischen versucht ein Dritter, beide auseinanderzuhalten.
B, die Frau, hat die gegenteilige Aufgabe: Sie hilft C. Ihre beste Strategie ist wohl die Wahrheit, schreibt Turing, bis hin zur ausdrücklichen Erklärung, sie sei die Frau. Gleich darauf merkt er an, dass A dieselbe Erklärung abgeben kann.
Die Antworten sollen schriftlich, am besten getippt sein, damit keine Stimme etwas verrät. Im Idealfall verbindet ein Fernschreiber die beiden Räume. Zwei Räume, eine Fernschreibleitung. Kein sichtbares Gesicht, keine hörbare Stimme. Übrig bleiben getippte Wörter.
Dann kommt der nächste Schritt.
Die Maschine kommt an die Stelle von A.
Sie übernimmt also die Rolle jenes Mannes, der den Fragenden irreführen sollte. Sie ersetzt weder B noch C, und sie kommt nicht als vierte Person hinzu.
Die verbreitete Nacherzählung geht so: Auf der einen Seite steht ein Mensch, auf der anderen eine Maschine; der Schiedsrichter muss den Menschen erkennen. Im ursprünglichen Spiel übernimmt die Maschine jedoch eine schon gespielte Rolle. Sie soll dasselbe tun wie der Mann: C zu einem Irrtum verleiten.
Nach dem Austausch stellt sich eine Vergleichsfrage. Irrt sich C mit der Maschine ebenso oft wie vorher, als sich auf der anderen Seite ein Mann und eine Frau verbargen? Vergleichsmaßstab ist nicht die Wahrheit, sondern das Ergebnis einer anderen Verstellung. Die Maschine misst sich nicht mit dem Menschen schlechthin, sondern mit einem Mann, der sich als Frau ausgibt.
Diese Fragen, schreibt Turing, treten an die Stelle der alten Frage, ob Maschinen denken können.
Der erste Abschnitt vergleicht die Fehlerquoten der zwei Spielfassungen. Das ist nicht dasselbe wie die Frage, ob der Schiedsrichter Mensch und Computer unterscheiden kann. Allerdings legte Turing die erste Anordnung nicht endgültig fest. Im fünften Abschnitt lässt er auch einen Mann die Rolle B übernehmen. Die spätere Kurzfassung lässt den Vergleich Mann gegen Frau aus Abschnitt eins weg, hat seine Fragestellung aber nicht völlig aus dem Nichts ersetzt.
Die Regeln des ersten Abschnitts nennen weder eine Dauer noch einen Prozentsatz, weder eine Zahl von Fragen noch Themen, weder Qualifikationen für den Fragenden noch einen Wert, bei dem die Maschine als denkend gelten soll.
Der erste Abschnitt beschreibt eine Anordnung, keine Prüfungsaufgabe.
Der Eigenname Turing-Test steht im Aufsatz nicht. Turing schreibt vom Imitationsspiel, vom Kriterium, vom Experiment und vom Test. Alle vier Wörter haben anderes Gewicht. Ein Kriterium zieht eine Grenze, ein Experiment wird ausgeführt, ein Test ist eine Prüfung und ein Spiel wird gespielt. Turing legte nicht fest, welches Wort allein gelten sollte. Den Eigennamen gaben ihm andere.
III. Zwei Vorhersagen
Am Anfang des sechsten Abschnitts trennt Turing seine Überzeugung von erwiesenen Tatsachen und kündigt ausdrücklich Vermutungen an.
Dann kommt die seit mehr als siebzig Jahren zitierte Zahl.
Sinngemäß sagt er: In etwa fünfzig Jahren sollte es möglich sein, Computer mit einer Speicherkapazität in der Größenordnung von einer Milliarde so zu programmieren, dass ein durchschnittlicher Fragender nach fünf Minuten Befragung mit höchstens siebzig Prozent Wahrscheinlichkeit richtig entscheidet.
Drei Zahlen: fünfzig Jahre, fünf Minuten, siebzig Prozent. Sie stehen hier und nicht in den Regeln des ersten Abschnitts. Wer daraus später eine Prüfung machte, nahm meist diese drei Zahlen. Im Original sind sie Parameter einer Vermutung, keine Bestimmungen einer Prüfungsordnung.
Unmittelbar darauf folgt eine andere Vorhersage.
Bis zum Ende des Jahrhunderts, schreibt Turing, würden sich der gewöhnliche Sprachgebrauch und die Meinung der Gebildeten so weit verändern, dass die Aussage, Maschinen dächten, gewöhnlich keinen Widerspruch mehr hervorrufen werde.
Beide Sätze stehen nebeneinander, betreffen aber nicht dieselbe Sache. Der erste sagt etwas Empirisches über die Leistung im Spiel voraus, unter Bedingungen für Speicher, Zeit und Wahrscheinlichkeit. Der zweite sagt eine Veränderung im Sprachgebrauch und in der Meinung gebildeter Menschen voraus. Den ersten kann man mit einer Maschine und einer Stoppuhr prüfen. Für den zweiten muss man darauf hören, wie Menschen sprechen.
Ein Mensch macht auf derselben Seite zwei Vorhersagen, eine über Maschinen, eine über Wörter. Die Grenze, der die ersten vier Folgen nachgegangen sind, verschiebt sich mit dem Wissen und den Worten der Menschen. Hier schreibt ein Beteiligter diese Verschiebung selbst als Vorhersage auf. Er sagt nicht, die Maschine werde eine bestimmte Grenze überschreiten. Er sagt, die Menschen würden anders sprechen.
In der ersten Folge kam bei der Weitergabe eines Satzes ein Wort hinzu. In der zweiten verlor eine technische Aussage ihre Einschränkung. In der vierten schrieb jemand in ein Manuskript für die Schublade, die Grenze liege beim Betrachter. Hier macht der Beteiligte daraus eine Vorhersage, die sich unmittelbar auf den Gebrauch der Wörter richtet.
Doch der zweite Satz hebt den ersten nicht auf. Im siebten Abschnitt schreibt Turing, die zuletzt befriedigende Stütze für seine Ansicht aus Abschnitt sechs wäre, am Ende des Jahrhunderts das Experiment wirklich durchzuführen. Die Vorhersage über die Sprache verdrängt die Vorhersage über das Experiment nicht. Beide bleiben stehen.
Ebenfalls am Anfang des sechsten Abschnitts steht die verbreitetste Aussage: In ihrem Wortlaut sei die ursprüngliche Frage zu sinnlos, um sie zu erörtern.
An derselben Stelle steht eine zweite, weit seltener zitierte Aussage: Man könne die ursprüngliche Form nicht ganz fallen lassen, denn darüber, ob die Ersetzung angemessen sei, werde es verschiedene Meinungen geben.
Das ist der Schritt, um den es in dieser Folge geht.
Eine Frage, an die man nicht herankommt und die man nicht messen kann, wird durch eine erreichbare, messbare Frage ersetzt. Die ursprüngliche Frage ist weder beantwortet noch widerlegt oder für nichtexistent erklärt. Sie wird zur Seite gerückt. Derjenige, der sie dorthin rückt, schreibt ausdrücklich, dass man ihm darin widersprechen kann und deshalb die alte Form nicht wegwerfen darf.
Hier findet die Kolonisierung statt. Nicht weil jemand einem anderen ein Stück Land wegnimmt. Neben einem Land, das sich nicht vermessen lässt, zeichnet jemand ein vermessbares ein. Der Streit zieht zum größten Teil dorthin. Das erste Land bleibt, doch weniger Menschen sehen noch hin.
Der Schritt ist anders als in den bisherigen Folgen. Dort hatte ein Aufbau etwas zustande gebracht, und die Grenze war zurückgewichen. Diesmal hatte der Aufbau nichts zustande gebracht. Man nahm nur etwas anderes, das sich messen ließ. 1950 konnte keine einzige Maschine das Spiel spielen. Ersetzt wurde die Frage, nicht das Können der Maschine. Hinter jeder Verschiebung der bisherigen vier Folgen stand etwas, das gelungen war. Diesmal nicht. Verschoben wurde der Maßstab.
Mehr als die Hälfte des sechsten Abschnitts antwortet unmittelbar auf Einwände gegen die Möglichkeit, dass Maschinen denken. Turing beseitigte die Frage nicht. Zwölf Seiten lang stritt er mit ihr. Wer eine Frage für nicht erörterungswürdig hält und anschließend auf zwölf Seiten neun Einwände dazu beantwortet, hält offenbar nicht die Sache für unwichtig. Es ist ihre wörtliche Frageform, die sich nicht unmittelbar beantworten lässt.
IV. Neun Einwände
Im sechsten Abschnitt zählt Turing neun Einwände auf und antwortet auf jeden einzeln.
Erstens der theologische Einwand: Denken ist Sache der unsterblichen Seele, die Gott den Menschen gegeben hat. Tiere und Maschinen haben keine solche Seele und können deshalb nicht denken.
Turing antwortet nicht mit einem Beweis für den Materialismus. Er bleibt im Rahmen seines Gegenübers. Schon Gott diese Grenze zu setzen sei fragwürdig. Denkende Maschinen herzustellen ließe sich mit dem Zeugen von Kindern vergleichen: Die Menschen wären dabei Werkzeuge der göttlichen Schöpferkraft, nicht ihre Gegner. Einen Teil seiner Antwort nennt Turing selbst spekulative Theologie. Er tritt nicht härter auf als sein Gegenüber. Wo der Einwand theologisch ist, antwortet er theologisch. Seine Antworten auf die neun Einwände sind verschieden, aber jedes Mal steht er auf dem Boden der anderen Seite. Das ist ein Verfahren des Streitens: Das Feld nicht wechseln, sondern dort antworten, wo der andere es abgesteckt hat. Der ganze Aufsatz schlägt ausgerechnet einen Wechsel des Feldes vor. Beides steht darin nebeneinander: Er will eine andere Frage stellen und beantwortet zugleich jeden Einwand auf dem Boden der alten.
Zweitens der Kopf-im-Sand-Einwand: Die Folgen einer denkenden Maschine wären so beängstigend, dass man hofft und glaubt, sie könne nicht denken.
Turing nimmt das als eine Gefühlslage. Sie sei besonders bei Menschen verständlich, die ihre Überlegenheit vor allem an ihrer Intelligenz festmachen. Der Einwand sei nicht substanziell genug und brauche keine logische Widerlegung. Verständnis ohne Zugeständnis. Nur bei diesem einen der neun Einwände sagt Turing ausdrücklich, er sei keine logische Widerlegung wert.
Drittens der mathematische Einwand.
Angeführt werden Ergebnisse aus den Jahren 1931 bis 1937, darunter Turings eigenes Manuskript von 1936. Sie zeigen: Eine Maschine, die feste Regeln Schritt für Schritt abarbeitet, wird, wie groß man sie auch baut, manche Fragen nicht beantworten können. Es fehlt nicht an guter Ingenieursarbeit. Die Grenze ist bewiesen.
Hier macht Turing ein ausdrückliches Zugeständnis. Jede einzelne Maschine dieser Art hat ihre Grenzen. Man kann sie mit einer Frage konfrontieren, die sie nicht beantwortet. Genau darum ging es in der dritten Folge: Die Grenze war nicht von außen gezogen worden, sondern aus den Regeln des Aufbaus selbst gefolgt.
Seine Erwiderung setzt beim Vergleich an. Niemand hat bewiesen, dass die menschliche Intelligenz keine entsprechenden Grenzen hat. Außerdem irren sich Menschen.
Von den neun Einwänden ist dies einer, den man ihm zufolge nicht mit einem Federstrich erledigen kann. Was er gelten lässt, sind mathematische Grenzen einzelner Maschinen, nicht eine deshalb unübertreffliche menschliche Fähigkeit. Dazwischen liegt eine Voraussetzung, die niemand bewiesen hat.
Viertens das Argument aus dem Bewusstsein.
Turing zitiert Jeffersons Vorlesung vom Juni 1949. Das Zitat beginnt bei der Forderung, eine Maschine müsse aus wirklich empfundenen Gedanken und Gefühlen ein Sonett schreiben oder ein Konzert verfassen. Es reicht bis zur Forderung, die Maschine müsse selbst wissen, dass sie es geschrieben hat, und bis zur Liste von Freude am Erfolg, Traurigkeit, Schmeichelei, Fehlern, Sexualität, Wut und Frustration.
Von den drei Ebenen, die in der vierten Folge vorkamen, lässt er keine aus.
Der erste Teil seiner Antwort ist das Problem des Fremdpsychischen. Wer den unmittelbaren Zugang zum Erleben der Maschine verlangt, bevor er Bewusstsein anerkennt, gerät bei folgerichtiger Anwendung desselben Maßstabs auf andere Menschen auf den Standpunkt, nur vom eigenen Bewusstsein wissen zu können.
Der zweite Teil ist eine ausgedachte mündliche Prüfung. Turing lässt eine Maschine Fragen über ein Gedicht beantworten und fragt, ob man dieselbe sprachliche Leistung bei einem anderen Menschen als Beleg gelten ließe.
Er bestreitet nicht, dass Bewusstsein ein schwieriges Problem ist. Ausdrücklich nennt er es ein Rätsel. Er sagt nur, dass man die Rätsel nicht zuerst lösen muss, um die Frage nach der Maschine zu beantworten. Das Bewusstsein hat er nicht erklärt. Er stellt die Frage danach zurück. Darin gleicht die Antwort dem Vorgehen des ganzen Aufsatzes.
Fünftens das Argument aus verschiedenen fehlenden Fähigkeiten.
Darunter steht eine Liste. Manche behaupten, eine Maschine könne niemals gutherzig, einfallsreich, schön oder freundlich sein, Initiative oder Humor zeigen, richtig und falsch unterscheiden, sich irren, sich verlieben, Erdbeeren mit Sahne genießen, jemanden dazu bringen, sich in sie zu verlieben, aus Erfahrung lernen, Wörter sachgemäß gebrauchen, das eigene Denken zum Gegenstand des Denkens machen, in der Vielfalt ihres Verhaltens mit Menschen mithalten oder etwas wirklich Neues tun. Sechzehn Dinge, von denen Menschen um 1950 sagten, Maschinen könnten sie nie, wie Turing es zusammengetragen hatte.
Diese Behauptungen kämen gewöhnlich ohne Belege aus und schlössen oft von den wenigen, sehr begrenzten Maschinen, die jemand kennt, auf alle. Es ist eine Aussage über Induktion: Was die Maschinen, die man gesehen hat, nicht können, muss für Maschinen nicht unmöglich sein. 1950 gab es weltweit höchstens ein gutes Dutzend Maschinen, die man hätte sehen können, und die meisten standen in Laboren.
Einige Punkte, etwa das Vergnügen an Erdbeeren mit Sahne, das Sichverlieben und verwandte Empfindungen, behandelt Turing als verdeckte Einwände aus dem Bewusstsein, nicht als unabhängig bewiesene Grenzen.
Beim Irrtum trennt er den Fehler im Betrieb vom falschen Ergebnis. Eine Maschine kann so eingerichtet sein, dass sie absichtlich eine irreführende Antwort gibt. Auch kann sie in einem Vorgang, der seiner Bauart entsprechend abläuft, zu einer falschen Schlussfolgerung kommen.
Zum eigenen Denken als Gegenstand sagt er, dass eine Maschine ihren eigenen Betrieb oder ihr eigenes Programm zum Thema machen kann. Für die Vielfalt des Verhaltens verweist er auf den großen Spielraum, den hinreichend viel Speicher bietet. Dass der Apparat endlich ist, bedeutet für ihn nicht, dass sein Verhalten sich notwendig eintönig wiederholt.
Siebtens das Argument aus der Stetigkeit des Nervensystems. Es ist keine Maschine mit diskreten Zuständen. Kleine kontinuierliche Änderungen können bedeutsam sein; physisch ist ein Digitalrechner anders organisiert.
Turing erkennt den physischen Unterschied an, weist aber darauf hin, dass das Spiel nur die Ausgabe betrachtet. Eine kontinuierlich arbeitende Vorrichtung, etwa ein Differentialanalysator, lässt sich durch eine Digitalmaschine so weit annähern, dass der Fragende aus den Antworten nicht schließen kann, welche Art physischer Vorrichtung dahintersteht.
Das Zugeständnis lautet, dass das Nervensystem womöglich wirklich nicht diskret arbeitet. Turing lässt nicht gelten, dass dieser Unterschied im Spiel von sich aus beobachtbar ist.
Hier wendet der Aufsatz seine Methode auf einen einzelnen Einwand an: Was auf der anderen Seite der Tür nicht zu sehen ist, zählt im Spiel nicht als Unterschied. Darin liegen die Stärke des Verfahrens und sein Preis.
Achtens das Argument aus der Informalität des Verhaltens. Menschliches Verhalten lässt sich nicht durch endlich viele Regeln erschöpfen, die jeder Lage eine Handlung zuordnen. Eine regelgeleitete Maschine kann es demnach nicht nachbilden.
Die engere Behauptung lässt Turing ausdrücklich gelten. Es gibt in der Tat keine einfachen Verhaltensregeln, die einem Menschen für jede Lage sagen, was er tun soll.
Dann trennt er die Vorschriften des Verhaltens von den Gesetzen, die es beschreiben. Wer kein vollständiges, ausdrücklich aufgeschriebenes Verhaltensgesetz findet, hat nicht bewiesen, dass es keines gibt. Das eine sind Regeln, nach denen Menschen handeln sollen; das andere Regeln, mit denen man ihr Handeln beschreibt. Jene mag es nicht geben, diese womöglich schon.
Am meisten räumt Turing beim dritten, siebten und achten Einwand ein. Jedes Mal geht es um dieselbe Art von Dingen: um konkrete physische oder formale Grenzen. Nirgends räumt er ein, dass Menschen etwas besitzen, was Maschinen notwendig fehlt.
Seine Zugeständnisse betreffen konkrete, benennbare Grenzen. Was er nicht zugesteht, ist der Schritt von diesen Grenzen zu einem Urteil über den Menschen.
V. Der sechste Einwand
Der sechste Einwand heißt Lady Lovelaces Einwand.
Die ausführlichste Beschreibung von Babbages Analytical Engine, schreibt Turing, stamme aus Lady Lovelaces Anmerkungen. Als Jahr nennt er 1842. Erschienen war der Aufsatz 1843.
Daraus nimmt er zwei Aussagen: Die Analytical Engine erhebt keinen Anspruch darauf, etwas aus sich selbst hervorzubringen. Sie kann alles tun, wovon wir wissen, wie wir es ihr auftragen können.
Das sind die beiden Sätze aus der letzten Anmerkung, von denen die erste Folge handelt. Hundertsieben Jahre später stehen sie wieder gedruckt in einer philosophischen Vierteljahreszeitschrift, nun als Leitsätze eines Einwands, auf den eine Antwort folgen soll.
Der erste Satz hat im Original ein verstärkendes Wort, das Turing im Zitat wegließ. Lovelaces Absatz geht nach diesen beiden Sätzen weiter. Ihr Gedanke, die Maschine könne die Wissenschaft mittelbar verändern, bleibt ebenso draußen wie der Gedanke, die Operationen müssten nicht auf Zahlen beschränkt bleiben.
Turing zitiert danach Hartrees Buch von 1949. Hartree hatte erwogen, dass eine Maschine mit einer Lernvorrichtung nach Art bedingter Reflexe die Sache mit dem selbständigen Denken komplizierter machen könnte. Zugleich hielt er die damals gebauten oder geplanten Maschinen nicht für entsprechend eingerichtet.
Turing stimmte Hartrees Urteil über die damals verfügbaren Belege zu. Was er nicht annahm, war der stärkere Schluss, eine solche Eigenschaft sei grundsätzlich unmöglich.
Wie in der ersten Folge zu sehen war, ließ Hartree Spielraum. Turing übernahm die Stelle mit diesem Spielraum und erklärte seine volle Zustimmung. Alle drei hielten sich an dieselbe Grenze: Lovelace sprach von der damals nicht existierenden Maschine, Hartree von den tatsächlich gebauten oder geplanten Maschinen von 1949, Turing von denselben Maschinen. Alle drei sprachen über die Gegenwart, keiner über alle Zeiten.
Danach formuliert er den Einwand zweimal schärfer.
Einmal so: Maschinen können nie etwas wirklich Neues tun.
Und so: Maschinen können uns nie überraschen.
Auf das Zweite antwortet er mit einem Satz: »Maschinen überraschen mich sehr oft.«
Damit verschiebt er den Streit. Zuerst ging es darum, ob die Maschine eine bestimmte Fähigkeit besitzt. Nun geht es darum, ob der Mensch alle Folgerungen aus den eigenen Regeln berechnet hat.
Seine Erklärung: Oft berechnen Menschen nicht voraus, welche Folgen sich aus den von ihnen gegebenen Regeln und Daten ergeben. Der Mensch hat die Regeln festgelegt, aber nicht alle ihre Folgen durchgerechnet.
Gegen Ende des siebten Abschnitts fügte er einer eigenen Formulierung eine Fußnote hinzu: »Die Maschine kann nur tun, wovon wir wissen, wie wir es ihr auftragen können.« Die Fußnote verweist ausdrücklich auf Lovelaces Satz zurück und hält fest: Das »nur« stand nicht im Original.
Hier schließt sich zum ersten Mal in dieser Reihe ein Kreis in den Quellen. Der Satz aus der ersten Folge wurde 1843 aufgeschrieben, hundertsieben Jahre später zitiert, und wer ihn zitierte, wies im selben Aufsatz eigenhändig auf den Zusatz hin, der unterwegs hineingeraten war.
Im selben Aufsatz setzte er das Jahr der Anmerkungen selbst um ein Jahr falsch an.
Jemand berichtigt die Wiedergabe einer Quelle durch andere und irrt sich über ein Detail derselben Quelle. Beides steht in demselben achtundzwanzigseitigen Aufsatz, neun Seiten voneinander entfernt.
VI. Ein Raum, der gegen Telepathie abgeschirmt ist
Neuntens der Einwand aus der außersinnlichen Wahrnehmung.
In späteren Nacherzählungen fällt dieser Teil oft weg. Im Original nimmt er zwei Seiten ein. Es ist der letzte der neun Einwände und einer derjenigen, die Turing am ernstesten nimmt.
Er nennt vier Phänomene: Telepathie, Hellsehen, Vorherwissen und Psychokinese.
Zuerst schreibt Turing, das Thema mache seiner Argumentation Schwierigkeiten. Lieber wäre ihm, wenn es diese Phänomene nicht gäbe. Dann schreibt er etwas, das dem Wunsch entgegensteht: Zumindest für Telepathie schienen ihm die statistischen Belege damals überwältigend. Er tat sie nicht als Unsinn ab. Wunsch und Urteil stehen getrennt da, der Wunsch zuerst.
Und er misst dem Einwand besonders großes Gewicht bei. Es sei ein starker Einwand. Der Grund ist genau bestimmt: Lässt man solche Phänomene zu, gilt die übliche Annahme nicht mehr, dass Fragender und Befragte hinsichtlich des Informationsflusses voneinander getrennt sind.
Der Einwand greift nicht die Möglichkeit an, dass Maschinen denken. Er greift den Raum an. Trennt die Tür beide Seiten wirklich? Das ganze Verfahren setzt die Trennung voraus, und der Einwand sagt, sie könne undicht sein. Das schlimmste Problem eines Maßstabs steckt nicht in seiner Skala, sondern in der Frage, ob er überhaupt die richtige Sache misst. Darum geht es in diesem Teil, und es sagt der Mann, der den Maßstab gebaut hat.
Turing rechnet ein Beispiel vor. Der Fragende hält Karten hoch und fragt nach der Kartenfarbe. Ein Mensch mit Telepathie erriete bei vierhundert Versuchen vielleicht hundertdreißig Karten richtig, eine zufällig ratende Maschine in einem Durchgang etwa hundertvier. Das reicht, damit der Fragende den Menschen an seiner Leistung erkennt. Damit würde das Spiel nicht danach unterscheiden, ob jemand denken kann, sondern danach, ob jemand etwas ganz anderes kann.
Dann macht Turing das Beispiel noch etwas verwickelter. Ließe sich der Zufallsgenerator des Digitalrechners durch die Psychokinese des Fragenden beeinflussen, wäre selbst der zufällige Vergleichswert nicht mehr unberührt. Hellsehen könnte die Identität schon ohne den gewöhnlichen Austausch von Fragen und Antworten verraten.
Als Abhilfe sollten die Teilnehmer abgeschirmt werden, etwa in einem Raum, der gegen Telepathie geschützt ist.
Ein Raum, der gegen Telepathie abgeschirmt ist. Das steht 1950 im Haupttext einer philosophischen Vierteljahreszeitschrift.
Dieser Abschnitt hat einen bestimmten Platz. Der Aufsatz ersetzt eine nicht messbare Frage durch ein messbares Spiel. Hier steht: Mein messbares Spiel beruht auf einer Voraussetzung, die ausfallen könnte. Turing strich sie nicht. Er fügte dem Spiel einen Raum hinzu.
Stößt eine Messanordnung auf etwas, das sie nicht richtig misst, kann man es wegdefinieren, verschweigen oder die Anordnung ändern. Turing wählte das Dritte.
In diesem Teil legt der Aufsatz also seine eigene Grundlage offen. Turing weiß, worauf sein Verfahren beruht und dass dieser Boden möglicherweise nicht fest ist.
Spätere Nacherzählungen des Verfahrens lassen diesen Teil meist aus.
VII. Die Kindmaschine
Der siebte Abschnitt handelt von lernenden Maschinen.
Turing unterscheidet bei der Entstehung des erwachsenen Geistes drei Quellen: den Ausgangszustand bei der Geburt, die Erziehung und die übrigen Erfahrungen, die nicht zur Erziehung zählen. Nur in die zweite kann jemand eingreifen. Turing will sich gerade diese vornehmen. Die erste überlässt er denen, die das Programm schreiben, die dritte dem Zufall und der Umgebung.
Dann dreht er die gewöhnliche Programmieraufgabe um. Statt den Geist eines Erwachsenen unmittelbar nachzuahmen, soll man etwas bauen, das dem Geist eines Kindes entspricht, und es erziehen.
Sein Vergleich ist ein frisch gekauftes Notizbuch. Beim Kind denkt er sich weniger eingebaute Mechanismen und mehr leere Seiten. Gleich danach merkt er an, das Gehirn eines wirklichen Kindes sei wohl nicht so einfach. Er setzt das Bild ein und schreibt seine Grenze gleich daneben.
Die Aufgabe teilt er in zwei miteinander verbundene Experimente: das Kindprogramm herstellen und seine Erziehung entwerfen. Er rechnet mit mehreren Versuchen, nicht damit, es gleich beim ersten Mal richtig zu schreiben. Das ist derselbe Weg wie im internen Manuskript von 1948: Nicht das fertige Ergebnis entwerfen, sondern eine veränderliche Maschine bauen und sie unterrichten. Zwei Jahre später war das Manuskript noch immer nicht öffentlich, aber sein Gedanke stand in anderer Form gedruckt da.
Die fortlaufenden Änderungen der Kindmaschine verglich er mit biologischer Evolution. Die Struktur entspricht dem Erbmaterial, Änderungen den Mutationen und das Urteil des Experimentators der natürlichen Auslese.
Auf der Seite der natürlichen Auslese steht in diesem Vergleich der Experimentator. Wer beurteilt, ob eine Änderung gut ist, wurde nicht an die Maschine abgegeben. In der Evolution hat niemand das letzte Wort; in diesem Entwurf hat es jemand. Erziehung heißt bei Turing weiterhin, dass es einen Lehrenden gibt.
Er setzt nicht voraus, dass die Erziehung alle Kanäle eines Kindes nachbildet. Hinreichende Kommunikation in beide Richtungen könne grundsätzlich schon recht viel Unterricht tragen. Als Beispiel nennt er Helen Keller. Schwere Sinnesbeeinträchtigungen müssten die Entwicklung der Intelligenz nicht verhindern. Gesucht sind keine Augen und Ohren für die Maschine, sondern eine hinreichende Verbindung in beide Richtungen.
Zu Belohnung und Strafe: Turing stellt sich Unterricht vor, bei dem das Ereignis oder Muster unmittelbar vor einer Strafe künftig seltener, das unmittelbar vor einer Belohnung häufiger auftritt.
Dabei muss man nicht voraussetzen, dass eine Maschine wirklich Freude oder Schmerz empfindet. Belohnung und Strafe können Steuersignale sein, die späteres Verhalten ändern.
Das ist die zweite Ersetzung in dieser Folge, in wesentlich kleinerem Maßstab. Zwei Wörter, die Empfindungen mit sich bringen, werden durch zwei Signale ohne Empfindung ersetzt. Der Unterrichtsentwurf funktioniert weiter. Turing verfährt so, wie er 1936 einen Zettel an die Stelle des Geisteszustands gesetzt hatte.
Turing sagt, er habe eine Methode dieser Art ausprobiert. Sein Verfahren sei aber zu unkonventionell gewesen und nicht ganz gelungen. Der Aufsatz berichtet selten in der ersten Person von einem Versuch. Wo er es hier tut, berichtet er davon, dass er nicht gelang.
Belohnung und Strafe waren nicht alles. Turing fügt emotionslose Kanäle hinzu, auf denen sich Befehle, Aussagen und symbolische Sprache übermitteln lassen. Nur durch Belohnung und Strafe kann man der Maschine nicht alles beibringen. Man muss auch mit ihr sprechen können.
Zum Zufall: In einer lernenden Maschine hält Turing einen Zufallsanteil für sinnvoll. Sonst würde die Suche erst der Reihe nach viele schlechte Möglichkeiten abarbeiten, ehe sie zu einer guten käme. Er vergleicht den Zufall mit der Mutation in der Evolution: Der Zufall liefert Möglichkeiten, Auswahl oder Bewertung halten die brauchbaren fest.
Im letzten Absatz erwartet Turing, Maschinen würden den Menschen schließlich auf allen rein geistigen Gebieten Konkurrenz machen. Für den Anfang nennt er zwei Wege. Man könnte eine abstrakte Tätigkeit wie Schach wählen, oder man könnte der Maschine die besten greifbaren Sinnesorgane geben und ihr wie einem Kind Englisch sprechen und schreiben beibringen. Er entscheidet sich nicht für einen der beiden Wege.
Beide Wege wurden später eingeschlagen. Der eine führte zu Brettspielen und formalen Spielen, der andere zur Sprache. In den folgenden Jahrzehnten wanderte der Schwerpunkt des Fachs mehrmals zwischen ihnen hin und her.
Der letzte Satz des Aufsatzes lautet sinngemäß: »Wir sehen nur ein kleines Stück vor uns. Aber auf diesem sichtbaren Stück gibt es schon viel zu tun.«
VIII. Danach
Die erste öffentliche Antwort war ein kurzer Text von Leonard Pinsky im Juli 1951 in derselben Zeitschrift. Er hieß Denken Maschinen, dass Maschinen denken?
Er entwarf keine Gegentheorie. Er schrieb eine Satire. Man solle einen komplizierten elektronischen oder digitalen Rechner der von Turing beschriebenen Art beschaffen und ihm ein Abonnement dieser Zeitschrift bestellen. Dann könne man als umgekehrtes Experiment beobachten, wie er auf die Debatte über denkende Maschinen reagiert. Pinsky las Turings Vorschlag als ein entscheidendes Experiment, das man tatsächlich durchführen sollte, und stellte seinen Beweiswert durch eine Parodie in Frage.
Die erste öffentliche Antwort war ein Scherz. Bei den Lesern einer philosophischen Vierteljahreszeitschrift war der Vorschlag 1951 zuerst etwas, worüber man einen Witz machen konnte.
Im April 1952 erschien in einer anderen philosophischen Zeitschrift ein Aufsatz von Wolfe Mays mit dem Titel Können Maschinen denken? Auch Mays war damals in Manchester.
Aus den ersten zehn Jahren des Aufsatzes lassen sich nur diese Antworten benennen: ein Scherz, ein Beitrag aus derselben Stadt, einige verstreute Gespräche. Was später zum Ausgangspunkt erklärt wurde, zog im ersten Jahrzehnt keine größeren Kreise.
Am 15. Mai 1951 hielt Turing im Third Programme einen Vortrag: Können Digitalrechner denken? Darin zog er unmittelbarer als im Text von 1950 in Betracht, einen Digitalrechner ein Gehirn zu nennen. In einem anderen Vortrag desselben Jahres dachte er in viel größeren Zeiträumen. Sollte die Intelligenz von Maschinen die des Menschen eines Tages übertreffen, werde das eher innerhalb der nächsten tausend als innerhalb der nächsten Millionen Jahre geschehen.
Im Januar 1952 diskutierten vier Teilnehmer im selben Programm: Kann man von automatischen Rechenmaschinen sagen, dass sie denken? Es waren Newman, Turing, Jefferson und Braithwaite.
Zwei Stellen fallen auf. An der einen sagt Turing: Ich will keine Definition des Denkens geben. Der Vergleich, den er vorschlage, brauche keine Definition.
An der anderen ändert sich die Anordnung. 1950 gab es einen Fragenden. In der Sendung von 1952 wird daraus eine Jury. Ein beträchtlicher Teil von ihr soll die Maschine für einen Menschen halten.
Innerhalb von zwei Jahren ersetzte derselbe Mann im Kern seiner Versuchsanordnung eine einzelne Person durch eine Gruppe.
Das Urteil eines Fragenden und das Urteil eines beträchtlichen Teils einer Gruppe sind verschieden. Das eine ist ein Unterscheiden, das andere eine Abstimmung. Zwei Jahre zuvor hatte Turing gerade dagegen eingewandt, die Bedeutung eines Wortes durch Statistik bestimmen zu lassen. Hier stimmt man darüber ab, wer im aktuellen Spiel ein Mensch ist; dort darüber, wie ein Wort zu gebrauchen ist. Dennoch haben die beiden Dinge eine sehr ähnliche Form.
Wann der Eigenname Turing-Test zuerst gedruckt wurde, konnte hier nicht festgestellt werden. Turing selbst benutzte ihn nicht. Der Name einer Person wird meist erst dann an eine Methode geheftet, wenn die Person nicht mehr dabei ist. Das geschieht in dieser Reihe zum vierten Mal: beim Namen der Maschine, beim Ehrentitel, bei der These mit den beiden Namen und hier.
Der erste Wettbewerb, der ausdrücklich um diese Art von Test herum eingerichtet wurde, war der Loebner-Preis, im November 1991 von Hugh Loebner finanziert. In jenem Jahr war das Thema eingeschränkt. Menschliche Juroren sprachen über Textterminals mit Menschen und Programmen und entschieden, wer Mensch und wer Maschine war. Einundvierzig Jahre später spielte man die verbreitete Fassung, nicht die ursprüngliche von 1950.
Nebeneinander sehen die Überlieferung und der Wortlaut so aus.
Geläufig ist: Turing schlug ein Kriterium vor, um zu entscheiden, ob Maschinen intelligent sind. Im Original sprach er von einem Kriterium, gab aber weder eine feste Bestehensgrenze an noch sagte er, wer sie erreiche, sei intelligent.
Geläufig ist: Turing sagte voraus, Maschinen würden den Test im Jahr 2000 bestehen. Dem kommt die Vermutung im sechsten Abschnitt mit Speichergröße, Dauer und Wahrscheinlichkeit am nächsten. Bestehen, eine Bestehensgrenze oder ein festes Jahr stehen so nicht da.
Geläufig ist: Turing glaubte, Maschinen könnten denken. Im Original hält er die Frage ihrem Wortlaut nach nicht für erörterungswürdig, hält eine Vermutung über die Spielleistung fest und sagt einen veränderten Sprachgebrauch voraus.
Geläufig ist: Es handelt sich um einen fünfminütigen Gesprächstest. Die fünf Minuten stehen nicht in den Regeln des ersten Abschnitts, sondern in der Vorhersage im sechsten.
Geläufig ist: Turing wich der Frage des Bewusstseins aus. Im Original gibt es einen ganzen Teil mit der Überschrift Argument aus dem Bewusstsein, über mehrere Seiten. Er zitiert Jefferson ausführlich, spricht über Solipsismus und das Fremdpsychische, richtet eine mündliche Prüfung ein und nennt das Bewusstsein ausdrücklich ein Rätsel.
All das hat eine gemeinsame Form. Im Original stehen Bedingungen und Vorbehalte; der Autor sagt, worüber man sich uneins sein kann. Die überlieferten Fassungen sind glatt, ausführbar und haben Zahlenwerte. Soll ein Verfahren in großem Maßstab gebraucht werden, muss es erst so vereinfacht werden. Was dabei verschwindet, hatte der Autor eigens aufgeschrieben, um zu zeigen, wie weit es reicht. Sind die Einschränkungen fort, lässt es sich leichter gebrauchen und leichter für eine Grenze halten.
Zum Schluss ein paar Daten. Am 31. März 1952 stand Turing in Cheshire wegen grober Unzucht vor Gericht. Er wurde nicht inhaftiert, sondern erhielt zwölf Monate Bewährung unter der Bedingung, sich einer medizinischen Behandlung zu unterziehen. Am 7. Juni 1954 starb er zu Hause in Wilmslow in Cheshire. Am nächsten Tag wurde er gefunden. Die offizielle Feststellung lautete Suizid.
Vier Jahre zuvor hatte derselbe Mann in einer philosophischen Vierteljahreszeitschrift geschrieben: Ich werde diese Frage durch eine andere ersetzen.
Die ersetzte Frage steht noch an ihrem alten Platz.
Niemand hat sie beantwortet, niemand hat bewiesen, dass man sie nicht stellen sollte. Seither gilt der Streit meist der Frage, die an ihre Stelle trat: ihren Regeln, ihrer Dauer, der Frage, ob sie gilt und wer sie bestanden hat. Die Grenze dieses Gebiets zog ein Mensch 1950. Er schrieb im sechsten Abschnitt ausdrücklich, die Leser würden sich über die Angemessenheit der Ersetzung uneins sein. Darum müsse die alte Frageform bleiben.
Dieser Satz wird selten mit dem anderen zitiert. Liest man nur den ersten, sieht man jemanden, der die alte Frage vor die Tür setzt. Liest man beide, sieht man jemanden, der sie beiseiterückt und einen Zettel danebenlegt: Sie ist noch da.
Noch werden Maschinen gebaut. Wo aber die Grenze liegt, sagt jede Generation von Neuem.