Meißel-Konstrukt-Zyklus · KI-Reihe · 12

Das Programm, das »die Ärzte schlug«

Han Qin · Etwa 17 Minuten · Veröffentlicht

I. Wie sicher sind Sie?

Im Buch der Stanford-Projektgruppe ist eine Vorführung am Terminal mit der Programmfassung von 1974 abgedruckt. Jemand bringt dem Programm eine Regel bei.

Die Regel lautet so: Wenn die Kulturprobe eines Patienten aus einem bestimmten Bereich stammt, die Gram-Färbung ein bestimmtes Ergebnis liefert, der Keim unter dem Mikroskop eine bestimmte Form hat, keinen Sauerstoff braucht und über einen bestimmten Weg in den Körper gelangt ist, dann gibt es starke Hinweise auf Bacteroides. Fünf Bedingungen, ein Schluss.

Der Mensch tippt zuerst die Bedingungen und den Schluss ein. Darauf fragt das Programm: Wie sicher sind Sie sich bei diesem Schluss? Es fordert vom Experten nicht unmittelbar eine Dezimalzahl. Es gibt ihm eine Skala von eins bis zehn, eine von Menschen festgelegte Skala. Der Mensch tippt neun. Das Programm gibt die Regel so aus, wie es sie verstanden hat, teilt eine Bedingung in zwei und kommt auf insgesamt fünf. Die Neun gibt es als 0,9 zurück und bittet um Bestätigung.

Die Regel bekommt gleich am Anfang eine Nummer: 200. In der Ausgabe lautet der Schluss: Es gibt starke Anhaltspunkte, 0,9, dass es sich um Bacteroides handelt.

Die 0,9 ist eine Zahl, die der Experte der Verbindung zwischen fünf Bedingungen und einem Schluss gibt. Sie gibt an, für wie stark er die Verbindung hält. Am Anfang stand ein Mensch, der auf einer Skala zwischen eins und zehn eine Stelle bestimmte. Wie solche Zahlen miteinander verrechnet werden, regelt das Programm auf eigene Weise. Das ist keine Wahrscheinlichkeitsrechnung. 0,9 als neunzig Prozent zu lesen ist eine spätere Auslegung.

Das Urteil eines Menschen wird erst zu einer Stufe auf einer Skala, dann zu einer Dezimalzahl und später zu einer Wahrscheinlichkeit erklärt. Mit jeder Umwandlung wächst der Abstand zum Menschen. Diese Folge handelt davon, wie die Menschen in zwanzig Jahren das, was sie wussten, in Maschinen brachten und was danach geschah.

II. Das Atomgewicht des Kohlenstoffs

Die Geschichte beginnt zehn Jahre früher. 1965 nahm in Stanford ein Projekt seinen Anfang, das später DENDRAL hieß. 1969 erschien sein formeller Aufsatz im vierten Band von Machine Intelligence: Heuristisches DENDRAL: ein Programm zum Erzeugen erklärender Hypothesen in der organischen Chemie. Die Autoren waren Bruce Buchanan, Georgia Sutherland und Edward Feigenbaum.

Die Aufgabe war eng bestimmt. Das Programm erhielt die Zusammensetzung eines Moleküls und sein Massenspektrum, also Signale von Molekülfragmenten, getrennt nach ihrem Masse-Ladungs-Verhältnis. Zuerst suchte es im Spektrum nach Hinweisen darauf, welche kleinen Strukturen vorkommen sollten und welche nicht. Nach diesen Hinweisen und chemischen Regeln stellte es Vorschläge zusammen. Für jeden schätzte es, welches Spektrum er ergeben würde. Im Vergleich mit dem vorliegenden Spektrum ordnete es die Vorschläge.

Am 21. Mai desselben Jahres erschienen im selben Heft des Journal of the American Chemical Society die ersten beiden Aufsätze einer Reihe: Anwendungen künstlicher Intelligenz auf chemische Schlussfolgerungen. 1969 stand in einer chemischen Fachzeitschrift künstliche Intelligenz im Titel. Das Jahr lag mitten in dem Jahrzehnt, das später der erste Winter hieß.

Das Programm lief auf einem DEC-Rechner des Stanford Artificial Intelligence Laboratory und war in einer Sprache zur Listenverarbeitung geschrieben. Unter den Verfassern waren zwei Gruppen: die Programmierer und Entwickler der Heuristiken, Lederberg, Feigenbaum, Buchanan und Sutherland, und die Fachleute für Massenspektrometrie und organische Chemie, Djerassi, Duffield und Robertson. Über die Grenze zwischen ihnen musste das Wissen gelangen, das die Chemiker hatten und das dem Programm fehlte.

Anfangs stand dieses Wissen unmittelbar im Programm. Das Atomgewicht des Kohlenstoffs stand in einer Funktion namens Gewicht. Eine Naturkonstante war in einen Rechenablauf geschrieben. Wollte man sie ändern, musste man das Programm ändern.

Bei mehr Wissen reichte das nicht mehr. Man nahm die chemischen Eigenschaften aus dem Programm und verlegte sie in leichter zu ändernde Datenstrukturen. Später fassten Beteiligte die Erfahrung so zusammen: Fachwissen in ein Programm zu bringen war zum Engpass geworden. Hier kommt Engpass zum ersten Mal vor. Gemeint ist nicht, dass die Maschine zu langsam rechnete. Das Wissen kam zu langsam hinein.

DENDRAL wurde später auf einen anderen Rechner übertragen und über ein entfernt zugängliches Mehrbenutzersystem bereitgestellt. Die ganzen siebziger Jahre und noch zu Beginn der achtziger konnten amerikanische Chemiker aus Hochschulen und Industrie darauf zugreifen.

Was die Behauptung angeht, es sei das erste Expertensystem der Welt gewesen: 1969 hieß es bei den Beteiligten Heuristisches DENDRAL. Im Titel der chemischen Zeitschrift stand künstliche Intelligenz. Die Bezeichnung erstes Expertensystem zur Bildung wissenschaftlicher Hypothesen kam 1993 in den Titel eines Rückblicks von Beteiligten.

III. Ein Name und drei Namen

Um 1972 begannen einige Menschen an der Stanford Medical School und einige Programmierer zusammenzuarbeiten. Ihr Projekt hatte anfangs keinen Namen.

Erst als sie 1973 einen Förderantrag schreiben mussten, brauchte das bereits laufende Programm einen Namen. Der Arzt Stanton Axline hatte eine Idee. Man könne die gemeinsame Endung vieler englischer Antibiotikanamen nehmen, das »-mycin« in Streptomycin und Erythromycin. Ein gutes Akronym fiel niemandem ein. Also blieb es bei MYCIN.

Der Name war gefunden. Im Antrag standen für die Geldgeber drei andere, in Großbuchstaben: KONSULTATIONSPROGRAMM; INTERAKTIVE ERKLÄRUNGSFUNKTION; MASCHINELLE ERFASSUNG VON URTEILSWISSEN. Konsultieren, erklären, Urteile erfassen. Arzt steht in keiner der drei Bezeichnungen. Das Programm sollte Rat geben, seine Gründe nennen und von Fachleuten lernen, wie man Rat gibt.

Am Anfang hatte man etwas anderes vor: ein Kontrollsystem, das die Antibiotikaverschreibungen im Krankenhaus überwacht. Dafür brauchte es gleichzeitig Daten aus der Apotheke, dem klinischen Labor und der Bakteriologie. Diese Daten lagen auf drei verschiedenen Rechnersystemen. Statt sie miteinander zu verbinden, entwarf man ein Konsultationssystem, das unmittelbar mit Ärzten sprach. Was aus einem Programm wird, hing hier davon ab, wie schwer sich die Leitungen verbinden ließen. Drei Systeme zusammenzuführen war zu schwierig, also fragte man einen Menschen.

Zuerst ging es nur um die antimikrobielle Therapie bei Bakteriämien. Später kam infektiöse Meningitis hinzu. Da nicht nur Bakterien sie verursachen können, wurden auch einige Viren und Pilze in die Wissensbasis aufgenommen.

Die Situation hatte noch eine Eigenheit. In den ersten vierundzwanzig bis achtundvierzig Stunden nach Aufnahme eines Patienten sind die Laborergebnisse oft noch nicht vollständig. Dann muss man aus den ersten Befunden nicht um jeden Preis einen einzigen Erreger bestimmen, sondern die möglichen gefährlichen Erreger berücksichtigen. Berücksichtigen ist nicht identifizieren.

Als die Projektgruppe 1984 Bilanz zog, umfasste die ausgereifte Wissensbasis ungefähr vierhundertfünfzig Regeln und rund tausend tabellarische Fakten. Das System konnte etwa hundertzwanzig Erreger berücksichtigen.

IV. Sechs Schritte

Wie kam eine Regel nach der anderen hinein? Für MYCIN war zunächst Edward Shortliffe zuständig. Er sammelte die Einschätzungen der Infektionsmediziner Cohen und Axline und besprach mit Buchanan und anderen, wie man sie darstellen könne. Sie wählten Wenn-dann-Regeln. Ein ausdrücklicher Grund war, dass Ärzte sie lesen, Fehler darin finden und Änderungen vornehmen konnten. Ihre Form wurde danach gewählt, was Menschen verstehen konnten.

Mitte der siebziger Jahre bekam die Sache einen Namen. Wissensengineering, wissensbasierte Systeme und Expertensysteme wurden um 1975 in diesem Umfeld geläufig. Das Buch der Projektgruppe von 1984 definiert Wissenserwerb als das Erfassen, Übertragen und Umformen von Wissen aus menschlichen Fachleuten, Lehrbüchern, Datenbanken und Erfahrung. Normalerweise stand noch jemand zwischen Fachleuten und Programm: der Wissensingenieur.

Die praktische Arbeit schrieb die Gruppe in sechs Schritten auf. Erstens sagt der Experte, was hinzugefügt oder geändert werden soll. Zweitens ändert der Wissensingenieur die Wissensbasis. Drittens lässt man alte Fälle noch einmal laufen. Viertens sehen sich beide gemeinsam an, welche Probleme auftreten. Fünftens probiert der Experte neue Fälle aus. Sechstens sieht man sich die Ergebnisse an und kehrt zum Anfang zurück. Ein Durchlauf, betonen die Autoren, kostet sehr viel Zeit. Das war eines der entscheidenden Probleme.

Am schwierigsten war aber oft noch nicht der Kreislauf, sondern sein Anfang. Der Wissensingenieur musste die Fachsprache und die Einteilung des Experten lernen; dieser musste allmählich verstehen, welche Darstellungsformen das Programm zuließ. Erst danach konnte die Zahl der Regeln rasch steigen. Danach prüfte und änderte man sie einzeln. Zuerst mussten zwei Menschen die Sprache des anderen lernen.

Bei DENDRAL war es ähnlich. Buchanan sprach wieder und wieder mit Fachleuten der Massenspektrometrie und brachte Urteile, die sie noch nie aufgeschrieben hatten, in ausführbare heuristische Regeln. Beide Seiten mussten viel Zeit hineinstecken. Zu Beginn ging ein großer Teil davon für Änderungen am Programm, für neue Einteilungen und für erneute Durchläufe von Fällen drauf.

Später baute das Projekt Werkzeuge, mit denen die Experten die Wissensbasis selbst prüfen und ändern sollten. Eines hieß TEIRESIAS, nach dem blinden Seher der Griechen. Im Rückblick steht, dass die Infektionsmediziner die Funktionen zum Erfassen und Korrigieren von Wissen nicht in vollem Umfang in ihren Alltag übernommen hätten. Ein Werkzeug war da. Auf den Menschen dazwischen konnte man weiter nicht verzichten.

V. Achthundert Bewertungen

Am 21. September 1979 erschien im Journal of the American Medical Association ein Aufsatz über die Auswahl antimikrobieller Mittel durch einen Computer im Blindbewertung durch Infektionsmediziner. Erstautor war Victor Yu. Diagnose, Besiegen und künstliche Intelligenz stehen nicht im Titel.

Die Untersuchung wurde Schritt für Schritt angelegt. Sie betraf eine Frage: Welche antimikrobiellen Mittel kommen bei akuter infektiöser Meningitis in Betracht, solange der Erreger nicht bestimmt ist?

Zuerst fasste man zehn Meningitisfälle aus einem mit Stanford verbundenen Kreiskrankenhaus zusammen. Für dieselben Fallberichte gaben acht Personen unabhängig voneinander Behandlungsvorschläge: fünf Lehrende der Infektionsmedizin in Stanford, ein erfahrener Fellow der Infektionsmedizin, ein erfahrener Assistenzarzt und ein Medizinstudent in einem höheren Studienjahr. Hinzu kamen der Vorschlag von MYCIN und die tatsächlich verabreichte Behandlung. Für jeden Fall gab es damit zehn Vorschläge.

Dann bewerteten acht Infektionsmediziner außerhalb Stanfords die Vorschläge. Alle acht hatten zur Meningitisbehandlung publiziert. Die zehn Vorschläge je Fall wurden gemischt und gleich formatiert. Die Gutachter wussten nicht, wer welchen Vorschlag gemacht hatte, und wussten auch nicht, dass einer vom Computer stammte. Jeder schrieb zuerst auf, wie er selbst behandeln würde, und stufte dann die anonymen Vorschläge in drei Kategorien ein: gleichwertig, vertretbare Alternative, nicht vertretbar. Zehn Fälle, zehn Vorschläge, acht Gutachter: achthundert Bewertungen.

Das Ergebnis lautete: Gezählt wurde, wie oft jeder Vorschlag unter achtzig Bewertungen vertretbar war. MYCIN kam auf zweiundfünfzig, fünfundsechzig Prozent. Der erste Lehrende auf fünfzig; der zweite Lehrende und der Fellow auf jeweils achtundvierzig; der dritte Lehrende und die tatsächlich verabreichte Behandlung auf jeweils sechsundvierzig; der vierte Lehrende auf vierundvierzig; der Assistenzarzt auf sechsunddreißig, der fünfte Lehrende auf vierunddreißig und der Student auf vierundzwanzig. Der Durchschnitt der fünf Lehrenden lag bei 55,5 Prozent, die Spanne bei 42,5 bis 62,5 Prozent.

Nach einer anderen Rechnung zählt, in wie vielen Fällen die Mehrheit der Gutachter einen Vorschlag akzeptierte. MYCIN kam auf sieben von zehn, ebenso die tatsächlich verabreichte Behandlung. Ein strengeres Kriterium war, ob ein behandelbarer Erreger übersehen wurde. Bei MYCIN geschah das nie, ebenso wenig bei der tatsächlichen Behandlung. Drei der Lehrenden übersahen keinen, zwei jeweils einen. Der Fellow kam auf einen, der Assistenzarzt auf einen, der Student auf drei.

Später hieß es, MYCIN habe im Blindversuch die Ärzte bei der Diagnose geschlagen. Untersucht wurde die Wahl der Medikamente, nicht die Diagnose. Es ging um zehn Fälle von Meningitis. Bewertet wurden anonyme Behandlungsvorschläge. Maschine und Ärzte traten nicht gegeneinander an.

Die Tabelle hat zehn Zeilen. Nach der ersten Auswertung steht MYCIN vorn, nach der zweiten gleichauf mit der tatsächlich verabreichten Behandlung und nach der dritten gleichauf mit mehreren Lehrenden. Keine Zeile heißt »Ärzte«. Für fünfundsechzig gegen ungefähr fünfzig Prozent nimmt man die erste Zeile heraus und mittelt fünf andere.

VI. Warum niemand es benutzte

Der bestbewertete Vorschlag stammte von einem Programm, das später nicht am Krankenbett eingesetzt wurde. Das sagen keine Außenstehenden. Die Projektgruppe überschrieb 1984 einen eigenen Abschnitt ihres Buchs mit der Frage: Warum wurde MYCIN nicht routinemäßig eingesetzt?

Ihre Gründe: Der benötigte Rechner war noch zu teuer. Das Wissen über Infektionskrankheiten reichte nicht weit genug. Die Benutzerschnittstelle war nicht gut genug. Ein Werkzeug allein für Meningitis und Bakteriämien lohnte sich nicht.

Dazu kam die Betriebsumgebung. Das Programm war in einem Dialekt einer Listenverarbeitungssprache geschrieben und hing von der Art Betriebssystem ab, die in Stanford und auf dem entfernt zugänglichen Mehrbenutzersystem lief. Auf Station und in Arztpraxen gab es solche Geräte nicht. Zu der Möglichkeit, ein großes, kompliziertes System für kleinere Rechner neu zu schreiben, sagten sie: »Wir hatten keinen Anreiz, das zu tun.«

Dann kamen die menschlichen Gründe. Wer trägt die rechtliche Verantwortung? Wie sehen Ärzte ihren eigenen Beruf? Würde die Fähigkeit des Programms, seine Gründe zu erklären, Ärzte zur Annahme bewegen? Die Autoren blickten selbstkritisch zurück: Früher hatten sie gute Leistung mit tatsächlicher Nutzung gleichgesetzt. Im Nachhinein hielten sie das für naiv.

Die Blindbewertung von 1979 fragte, ob Fachärzte die Vorschläge des Programms akzeptieren konnten. Das ließ sich messen und wurde gemessen. Eine andere Frage lautet, ob ein Arzt die Software am Krankenbett benutzen würde. Das wurde damals nicht gemessen.

Das Gemessene galt als Antwort auf das Nichtgemessene. Dieses Verfahren ist in Folge fünf und in der vorigen Folge vorgekommen: An die Stelle einer schwer zu stellenden Frage tritt eine leichter zu stellende. Hier vollzogen die Programmautoren selbst den Tausch. Fünf Jahre später waren es auch sie, die ihn im Buch offenlegten.

Zwischen einem Programm mit der höchsten Wertung in achthundert Bewertungen und einem Programm auf der Krankenhausstation stehen in der Liste der Projektgruppe fast keine Regeln. Es geht um den Preis des Rechners, die Geräte im Zimmer, die Haftung und das Selbstverständnis der Ärzte.

Noch etwas geschah. Ungefähr von 1977 an wandten sich nach und nach die medizinischen Mitarbeiter anderen Arbeiten zu. Die Wissensbasis zu Infektionskrankheiten wurde danach kaum noch im großen Stil erweitert. Die Forschung an Erklärungen, Wissenserwerb und abgeleiteten Werkzeugen ging weiter. Medizinisches Wissen kam nicht mehr hinzu, als die Ärzte gingen.

MYCIN hatte also kein eindeutiges Enddatum. Es hörte nach und nach auf. Zuerst gingen die Menschen, dann wuchs das Wissen nicht mehr. Die Regel Nummer 200 steht noch in der Wissensbasis. Die 0,9 auch. Auf medizinischer Seite wandten sich die Menschen, die solche Zahlen nannten, anderen Arbeiten zu.

VII. Siebenhundertzweiundsiebzig Regeln

In derselben Zeit wurde ein anderes Programm tatsächlich eingesetzt. Im Tagungsband der ersten Jahrestagung der amerikanischen Gesellschaft für künstliche Intelligenz von 1980 steht ein Aufsatz von John McDermott. Der Titel nennt das Programm einen Experten für Computersysteme und gibt ihm den Namen R1. Im Unternehmen hieß es später XCON.

Seine Arbeit war handfest. DEC verkaufte ein neues Rechnermodell, den VAX-11/780. Ein Kunde reichte eine Bestellung mit den gewünschten Bauteilen ein. Das Programm las die Bestellung, zeichnete, wo die Teile im Schrank lagen und wie sie zu verdrahten waren, und stellte fest, was in der Bestellung fehlte. Techniker bauten die wirkliche Maschine nach diesen Zeichnungen zusammen. DEC benutzte einen DEC-Rechner, um DEC-Rechner zusammenzustellen. Das Programm lief auf einem Großrechner von DEC und war in einer Sprache für Produktionsregelsysteme geschrieben.

Die erste Phase begann im Dezember 1978 und dauerte rund vier Monate. Leute von DEC erklärten McDermott fünf oder sechs Tage lang, wie man die Systeme konfigurierte, und er las zwei Handbücher. Die erste Fassung hatte weniger als zweihundert Regeln für das Fachgebiet. Die zweite Phase dauerte wieder ungefähr vier Monate. DEC-Fachleute prüften immer wieder die Ausgabe und sagten, was falsch war oder fehlte. Das Fachwissen wuchs, wie es der Aufsatz formuliert, auf fast das Dreifache.

Im Oktober und November 1979 fand eine systematische Prüfung mit fünfzig echten Bestellungen statt. Sechs Konfigurationsexperten prüften sie, ein bis zwei Stunden je Bestellung. Sie fanden zwölf Arten von Fehlern, die sämtlich behoben wurden.

Im Juni 1980 gab es siebenhundertzweiundsiebzig dauerhafte Regeln, darunter vierhundertachtzig sogenannte Konfigurationsregeln. Das Programm kannte rund vierhundertzwanzig Bauteile. Ein typisches System bestand aus ungefähr neunzig Teilen. Seit Januar 1980 hatte es mehr als fünfhundert Bestellungen bearbeitet. DECs Fertigung setzte es regelmäßig ein, und man begann, es an die Bestellvorgänge des Vertriebs anzubinden. In der Prüfung mit fünfzig Bestellungen wurden je Bestellung im Schnitt rund 1.056 Regeln ausgelöst. Der Rechner brauchte etwa zweieinhalb Minuten.

Das Programm blieb in Gebrauch und wuchs weiter. Die DEC-Mitarbeiter Barker und O’Connor schrieben 1989 in den Communications of the ACM einen Rückblick. Aus rund zweihundertfünfzig Regeln, die zwei Menschen betreuten, waren mehr als zehntausend Regeln und ein Wartungsteam von über sechzig Menschen geworden. Aus zwei Menschen wurden mehr als sechzig.

Bei einem eingesetzten Wissenssystem ist es nicht damit getan, das Wissen einmal einzutragen. Eine Organisation muss sich ständig darum kümmern. Diese Organisation wächst.

Oft heißt es, das Programm habe DEC jährlich fünfundzwanzig Millionen Dollar gespart. Im Rückblick von 1989 steht eine andere Zahl: Verantwortliche schätzten die jährliche Nettoersparnis durch Konfigurationssysteme dieser Art auf etwa vierzig Millionen Dollar.

VIII. Null Komma neun

Im August 1984 tagte die amerikanische Gesellschaft für künstliche Intelligenz in Austin. Der Journalist George Johnson war dabei und schrieb im November einen langen Bericht. Er beschreibt das blaugraue Licht der Terminals, laut verstärkte Verkaufsdemonstrationen in der Ausstellungshalle und Firmenvertreter, die überall nach neuen Mitarbeitern suchten. Mehr als dreitausend Personen waren da; etwa zwei Drittel kamen nicht von Hochschulen.

An einem Stand bot eine Firma eine Umgebung für Wissensengineering an, mit der sich Expertensysteme entwickeln ließen. In ihrem Prospekt stand: »Künstliche Intelligenz ist endlich erwachsen.« Ein anderer Prospekt sagte: »Wir haben ein besseres Gehirn gebaut.« Auf dem Titel von Business Week stand im selben Jahr: Künstliche Intelligenz: Jetzt kommt sie. Die Gesellschaft verteilte Autoaufkleber mit dem Spruch: Künstliche Intelligenz ist echt.

Feigenbaum sagte dem Reporter, Risikokapital suche immer nach dem nächsten großen Thema. 1980 und 1981 sei es die Biotechnologie gewesen. Jetzt sei es künstliche Intelligenz. 1984 war der Ausdruck also ein Aushängeschild, kein Wort, das man mied.

Der Reporter tat noch etwas. Er stellte die Sprache der Verkäufer neben die Sprache der Forschenden in den technischen Sitzungen. Die Forschenden machten einen Vorbehalt nach dem anderen. Die siebte Folge hatte Texte nebeneinandergestellt, die mit Jahren Abstand entstanden waren. Sie fragte, welche Einschränkungen jeweils darin standen und wie viele davon in der Überlieferung blieben. Hier hielt ein Anwesender beide Sprachen am selben Ort und in derselben Woche nebeneinander fest.

Auch Zahlen zum Geld gibt es. Im Februar 1985 veröffentlichte das Office of Technology Assessment des US-Kongresses damalige Marktzahlen. 1983 hatte die Industrie rund 66 bis 75 Millionen Dollar für KI-Produkte ausgegeben. Auf derselben Seite steht, dass fünfzehn oder mehr der größten amerikanischen Unternehmen die Entwicklung von Expertensystemen ausbauten. In den vorigen Jahren waren mindestens ein Dutzend Firmen für solche Produkte entstanden, in die mindestens sechzehn Millionen Dollar Risikokapital flossen. Der Markt für eigens zur KI-Entwicklung verkaufte Rechner wurde auf etwa fünfzig Millionen Dollar geschätzt. Eine weitere, größere Zahl lautete: Bis Anfang der neunziger Jahre könne der Markt auf 2,5 bis 8,5 Milliarden Dollar wachsen.

Auch Staaten stiegen ein. 1982 gründete das japanische Ministerium für internationalen Handel und Industrie ein Institut für Computertechnologie der nächsten Generation, für das Projekt der fünften Computergeneration. Die höchsten von außen genannten Schätzungen reichten für die nächsten acht bis zehn Jahre von einer bis anderthalb Milliarden Dollar. Die ersten Jahresausgaben betrugen 1982 rund zwei Millionen, 1983 rund zwölf Millionen und 1984 rund siebenundzwanzig Millionen Dollar. Das Institut hatte insgesamt zweiundfünfzig Mitarbeiter.

Das britische Alvey-Programm war eine Antwort auf Japans Projekt der fünften Generation. Sein KI-Bereich hieß intelligente wissensbasierte Systeme. Die Regierung sagte rund 310 Millionen Dollar zu, die Unternehmen sollten weitere 230 Millionen beitragen. Für intelligente wissensbasierte Systeme waren in den ersten fünf Jahren rund 39 Millionen vorgesehen, davon rund 30 Millionen für Universitäten. 1982 arbeiteten in Großbritannien etwa 150 Forschende auf dem Gebiet. Binnen zwei oder drei Jahren sollte die Zahl um die Hälfte wachsen, binnen fünf Jahren sich verdoppeln.

Strategic Computing, das Programm der DARPA, der Forschungsbehörde des US-Verteidigungsministeriums, begann im Haushaltsjahr 1984. Fünf Jahre sollten ungefähr sechshundert Millionen Dollar kosten.

Im selben Bericht stehen künstliche Intelligenz und Expertensysteme als Kapitelüberschriften. Zugleich steht dort, ein Teil der Begeisterung der Unternehmen könne unbegründet sein. Wer den Kongress beriet, betrachtete Behauptungen über den Nutzen und die allgemeine Übertragbarkeit der damaligen Expertensysteme mit Vorsicht. Aushängeschild und Warnung stehen im selben Kapitel desselben Regierungsdokuments.

Zurück zu der Zahl dieser Folge. Was die Menschen in jenen zwanzig Jahren tun wollten, lässt sich einfach sagen: in eine Maschine bringen, was Menschen wissen. Was Chemiker, Ärzte und Konfigurationsingenieure wissen. In den Unterlagen ist zu sehen, wie das Einbringen aussah.

Das Atomgewicht des Kohlenstoffs stand fest im Programm und musste herausgenommen werden, damit man es ändern konnte. Das Urteil des Arztes wurde erst als Stufe zwischen eins und zehn erfragt und dann als Dezimalzahl gespeichert. Ein sechsstufiger Durchlauf kostete viel Zeit. Am schwierigsten war der Anfang, an dem zwei Menschen die Sprache des anderen lernen mussten. Ein Konfigurationsprogramm wuchs von zwei Betreuern auf über sechzig. Die Wissensbasis des bestbewerteten Konsultationsprogramms hörte auf zu wachsen, als die Ärzte gingen.

Diese Dinge sagen dasselbe: Wissen ist nichts, was man einfüllt und dann sich selbst überlassen kann. Danach muss sich jemand darum kümmern. Wer, steht in den Unterlagen: Wissensingenieure, Wartungsteams und die Fachleute, die immer wieder kamen. Je mehr Regeln in der Maschine lagen, desto mehr Menschen standen daneben.

Alles Gebaute hat eine Grenze. Draußen bleibt immer etwas. Diese Reihe nennt es den Rest. In diesen zwanzig Jahren hat der Rest ein Gesicht: das des Menschen, der neben der Maschine sitzen bleiben muss.

Regeln kann man abschreiben und zählen: siebenhundertzweiundsiebzig, vierhundertfünfzig, mehr als zehntausend. Doch warum eine Regel so lautet und warum aus der Neun keine Acht wurde, lässt sich nicht abschreiben. Es bleibt bei dem Menschen, der die Neun nennt. Solange er da ist, lässt sich die Regel ändern. Geht er, bleiben Regel und 0,9. Wer sie erklären kann, sitzt nicht mehr neben der Maschine.

Zurück zur Vorführung am Terminal. Ein Programm fragt einen Menschen: Wie sicher sind Sie? Es gibt ihm eine Skala von eins bis zehn. Er tippt neun. Das Programm schreibt 0,9.

Später las man 0,9 als neunzig Prozent und achthundert Bewertungen als Sieg über die Ärzte. Aus einer Wissensbasis, die ohne Ärzte nicht mehr wuchs, wurde ein KI-Arzt im Krankenhaus. Aus einem Programm, das mehr als sechzig Betreuer brauchte, wurde eine Maschine, die der Firma jährlich fünfundzwanzig Millionen sparte. Jedes Mal rückte der Mensch, der neun gesagt hatte, ein Stück weiter nach draußen.

Noch werden Maschinen gebaut. Wo aber die Grenze liegt, sagt jede Generation von Neuem.