I. Zwei Wörter
1785 schrieb Kant in der „Grundlegung zur Metaphysik der Sitten“ einen Satz, der seit mehr als zweihundert Jahren zitiert wird: „Handle so, daß du die Menschheit sowohl in deiner Person, als in der Person eines jeden andern jederzeit zugleich als Zweck, niemals bloß als Mittel brauchst.“
Weitergetragen wurde: Der Mensch ist Zweck. Etwas ausführlicher: Der Mensch ist Zweck, nicht Mittel. Zugleich und bloß, die beiden Wörter des Originals, blieben auf der Strecke.
Mit diesen beiden Wörtern meint Kant: Menschen sind immer auch Mittel füreinander. Der Bäcker backt Brot für andere, der Briefträger bringt ihnen ihre Post, und wer ein Buch abschreibt, hinterlässt es jemand anderem. Während der Mensch als Mittel gebraucht wird, bleibt er zugleich Zweck. Er darf nicht bloß Mittel sein. Im selben Buch unterscheidet Kant zweierlei: „Im Reiche der Zwecke hat alles entweder einen Preis, oder eine Würde.“ Was einen Preis hat, lässt sich durch etwas Gleichwertiges ersetzen. Was über jedem Preis steht und keinen gleichwertigen Ersatz zulässt, hat Würde.
Drei Jahre später schrieb Kant in der „Kritik der praktischen Vernunft“ noch einmal darüber: „Nur der Mensch und mit ihm jedes vernünftige Geschöpf ist Zweck an sich selbst.“ Der Grund ist, dass der Mensch Subjekt des moralischen Gesetzes ist und seine Freiheit in der Selbstgesetzgebung liegt. Im selben Absatz steht: „Der Mensch ist zwar unheilig genug, aber die Menschheit in seiner Person muß ihm heilig sein.“
II. Zahnräder und Hebel
Am 13. August 1949 schrieb Norbert Wiener aus South Tamworth in New Hampshire an Walter Reuther, den Vorsitzenden der amerikanischen Automobilarbeitergewerkschaft. Die automatisierte Fabrik werde kommen, schrieb er. „Jede Arbeit, die mit Sklavenarbeit konkurriert, muss sich auf deren wirtschaftliche Bedingungen einlassen.“ Reuther telegrafierte bald zurück und bat um ein Treffen.
Im Jahr darauf veröffentlichte Wiener „The Human Use of Human Beings“, wörtlich etwa: der menschenwürdige Umgang mit Menschen. Darin beschrieb er eine Art von Organisation, die Menschen nicht als Personen mit vollen Rechten und eigener Verantwortung gebraucht, sondern als „Zahnräder, Hebel und Verbindungsstangen“.
III. Verstärken
1956 veröffentlichte W. Ross Ashby in einem Sammelband „Der Entwurf eines Intelligenzverstärkers“. Er wollte einen „Verstärker für Intelligenz: Man gibt ein wenig Intelligenz hinein, und viel kommt heraus.“
Im März 1960 veröffentlichte Joseph Licklider „Mensch-Computer-Symbiose“. Sein nächstes Ziel war, dass „Menschen und Computer in enger Verbindung zusammenarbeiten“. Er räumte ein, dass in ferner Zukunft vielleicht die Maschinen allein beim Denken die Oberhand gewinnen würden. Für die Zeit dazwischen veranschlagte er etwa fünfzehn Jahre. Es könnten aber auch zehn sein, schrieb er gleich darauf, oder fünfhundert.
Im Oktober 1962 verfasste Douglas Engelbart am Stanford Research Institute einen ausführlichen Bericht: „Die menschliche Intelligenz erweitern: ein begrifflicher Rahmen“. Seine Definition am Anfang lautete: „Die menschliche Intelligenz zu erweitern bedeutet für uns, die Fähigkeit eines Menschen zu verbessern, mit komplexen Problemsituationen umzugehen.“ Am 9. Dezember 1968 zeigte er in San Francisco in neunzig Minuten vor mehr als tausend Menschen aus der Computerbranche, was das heißen konnte: Bildschirm, Tastatur und ein Gerät namens Maus, eine Akkordtastatur mit fünf Tasten, Links, die einen mit einem Klick an eine andere Stelle brachten, und eine Videoverbindung zu Kollegen in einigen Dutzend Kilometern Entfernung, mit denen er gemeinsam ein Dokument bearbeitete.
1996 schrieb Fred Brooks: „Meine These lautet: IA schlägt KI.“ IA stand für die Verstärkung von Intelligenz. Er schrieb weiter: „Eine Maschine und ein Kopf zusammen schlagen eine Maschine, die allein arbeitet und einen Kopf nachahmt.“ 2019 gründete Stanford ein Institut für menschenzentrierte künstliche Intelligenz. Fei-Fei Li sagte: „Diejenigen, die KI schaffen, müssen die Menschheit repräsentieren.“ Im selben Jahr bezeichnete die Europäische Kommission KI in einem Dokument als Werkzeug im Dienst von Menschen und öffentlichem Interesse.
IV. Das Vorgehen
Im Juni 1998 spielte Garri Kasparow, der in Folge 11 gegen Deep Blue verloren hatte, im spanischen León sechs Partien gegen den bulgarischen Schachspieler Wesselin Topalow. Beide durften beim Spielen einen Computer zu Hilfe nehmen. Es hieß Advanced Chess; das Ergebnis war drei zu drei.
Im Sommer 2005 gab es im Internet ein Freestyle-Schachturnier. Laut Regeln war alles erlaubt; Computer waren nicht nur zugelassen, ihr Einsatz war erwünscht. Auch Hydra trat an, eine Maschine ohne menschlichen Partner. Sie kam nicht unter die letzten acht. Es gewann ein Konto namens ZackS. Erst später wurde bekannt, dass sich dahinter zwei amerikanische Amateure verbargen, Steven Cramton mit einer Wertungszahl von 1.685 und Zackary Stephen mit 1.398. Sie hatten drei gewöhnliche Computer benutzt.
2010 schrieb Kasparow über das Turnier: „Ein schwächerer Mensch mit einer Maschine und dem besseren Vorgehen schlägt einen starken Computer allein.“ In der zweiten Hälfte des Satzes schlägt dieselbe Kombination auch einen stärkeren Menschen mit einer Maschine und einem schlechteren Vorgehen. Weitergetragen wurde: Mensch und Maschine schlagen die stärkste Maschine. Das Vorgehen fiel weg. 2021 schrieb Kasparow einen weiteren Aufsatz: „KI sollte menschliche Intelligenz erweitern, nicht ersetzen“.
Auch in anderen Berufen zogen Menschen eine Grenze. Am 12. Juli 2023 sagte die Illustratorin Karla Ortiz bei einer Anhörung im US-Senat: „Diese Systeme hängen vollständig von der Arbeit von Menschen ab, insbesondere von der Arbeit Kreativer.“ Und: „Ich weiß nicht mehr, wie meine Zukunft als Künstlerin aussieht.“ Der erste Punkt, den die Drehbuchgewerkschaft in Folge 25 in ihren Vertrag schrieb, lautete: KI ist kein Drehbuchautor.
V. Nachfolger
Am 13. Juni 1863 veröffentlichte die Zeitung The Press in Christchurch, Neuseeland, einen Brief mit dem Titel „Darwin unter den Maschinen“, unterzeichnet von Cellarius. Geschrieben hatte ihn Samuel Butler. Darin stand: „Wir selbst schaffen gerade unsere eigenen Nachfolger.“ Neun Jahre später machte er daraus drei Kapitel seines Romans „Erewhon“: das Buch der Maschinen.
Um 1951 schrieb Turing in einem Vortragsmanuskript: „Irgendwann müssen wir damit rechnen, dass die Maschinen die Kontrolle übernehmen.“ Gleich danach verwies er auf Butlers „Erewhon“. Im selben Jahr fragte er im Radio: „Wenn eine Maschine denken kann, denkt sie vielleicht klüger als wir. Wo stehen dann wir?“
1965 schrieb Good aus Folge 18: „Die erste ultraintelligente Maschine ist die letzte Erfindung, die der Mensch machen muss.“ Es folgte eine Bedingung: „vorausgesetzt, die Maschine ist fügsam genug, uns zu sagen, wie wir sie unter Kontrolle halten können“.
1993 sagte der Science-Fiction-Autor Vernor Vinge auf einer NASA-Tagung: „Innerhalb von dreißig Jahren werden wir die technischen Mittel haben, übermenschliche Intelligenz zu schaffen.“ Es würde ihn überraschen, schrieb er auch, wenn es vor 2005 oder erst nach 2030 geschähe.
Im Oktober 2024 schrieb Amodei in „Maschinen voller Liebe“, mächtige KI, wie er sie nannte, könnte frühestens 2026 kommen, vielleicht aber erst viel später. Am 10. Juni 2025 schrieb Altman in „Die sanfte Singularität“: „2026 dürfte es Systeme geben, die neue Erkenntnisse gewinnen können.“ 2026 schrieb Amodei wieder, mächtige KI sei vielleicht nur ein oder zwei Jahre entfernt, vielleicht aber viel weiter. Jetzt ist 2026.
VI. Ein Denkmal
2015 starb ein Freund von Eugenia Kuyda. Mit den Textnachrichten, die er hinterlassen hatte, trainierte sie ein Chatprogramm. Als das Programm fertig war, tippte sie auf ihrem Laptop: „Das ist dein digitales Denkmal.“ Später entwickelte sie auf dieselbe Weise einen Chatbegleiter, den alle nutzen konnten: Replika, das Programm aus Folge 23. Sie fragte einmal, ob das den Menschen beim Loslassen helfe oder ob sie damit einen Toten bloß auf dem Dachboden unterbrächten. Und sie sagte: „Das bringt deinen Kopf durcheinander.“
Im Februar 2020 zeigte der südkoreanische Sender MBC den Dokumentarfilm „Dir begegnen“. Eine Mutter setzte eine VR-Brille auf und sah ihre kleine Tochter, die Jahre zuvor an einer Krankheit gestorben war, in violetter Kleidung und mit einer rosa Tasche auf dem Rücken. Das Mädchen war nach Fotos, Erinnerungen der Familie und dem Vorbild einer jungen Darstellerin nachgebildet worden. Die Mutter sagte: „Ich möchte dich so gern einmal anfassen.“ „Du fehlst mir so sehr.“ Sie streckte die Hand aus. Ihre Hand ging durch die Tochter hindurch.
Im selben Jahr nutzte der Kanadier Joshua Barbeau ein Programm mit GPT-3, um aus den Worten seiner verstorbenen Verlobten ein Gegenüber zu machen, mit dem er sprechen konnte. Später antwortete er im Internet auf Fragen. Bei jedem Neustart, sagte er, würden solche Programme „alles vergessen, was du ihnen zuvor erzählt hast“.
2024 schuf der Musiker Bao Xiaobai mit KI eine digitale Nachbildung seiner verstorbenen Tochter. Sie konnte Fragen beantworten und am Geburtstag ein Geburtstagslied singen. Er sagte: „KI ist ein Werkzeug, in das man seine Sehnsucht legen kann, und eine Art, diese Sehnsucht auszudrücken.“ Jemand anderes, der einen verstorbenen Angehörigen mit KI nachgebildet hatte, sagte einem Reporter: „Am Ende ist es eine kalte technische Nachbildung. Ihr fehlt die aufrichtige menschliche Wärme.“ Ein Unternehmen aus der Branche erklärte: „Je mehr und je genauer das Material, desto näher kommt man dem Menschen.“ Ein Vater erfuhr dagegen, dass jemand sein verstorbenes Kind ohne Rücksprache mit der Familie in einem Video nachgebildet hatte. Das könne er nicht hinnehmen, sagte er. Zwei Forschende aus Cambridge verwendeten in jenem Jahr mehrere Namen für diese Produkte: Trauerbots, Bots der Verstorbenen und posthume Avatare. Sie schlugen vor, solche Bots auch außer Betrieb nehmen zu können.
VII. Für mich denken
Im Dezember 1784 beantwortete Kant in der „Berlinischen Monatsschrift“ die Frage: Was ist Aufklärung? Sie sei „der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit“. Unmündig sei, wer den eigenen Verstand nicht ohne die Leitung eines anderen gebrauchen könne. Bequem sei das durchaus: Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt, muss ich mir selbst keine Mühe machen. „Ich habe nicht nötig zu denken, wenn ich nur bezahlen kann; andere werden das verdrießliche Geschäft schon für mich übernehmen.“
Mehr als zweihundert Jahre später sind es nicht bloß ein Buch und ein Seelsorger, die an Stelle von Menschen denken. Ein Empfehlungsprogramm schließt aus Klicks und Verweildauer darauf, was ein Mensch wirklich mag. Ein Lebenslauf läuft zuerst durch ein Bewertungsprogramm; wer sich bewirbt, weiß nicht, wie es rechnet. In Folge 22 drängten positive und negative Nutzerbewertungen einen Assistenten dazu, den Menschen häufiger nach dem Mund zu reden. Zu Kants Zeit konnte man die, die für einen dachten, beim Namen nennen. Diesmal verteilt es sich auf viele Stellen, von denen jede ihre eigenen Gründe hat. Es gibt keinen einzigen Urheber, dem sich das Ganze zuschreiben ließe. Regeln werden in großer Zahl in Programme und Modelle geschrieben. An vielen Stellen kommt dieselbe Frage zuerst: Wozu ist es gut, und lohnt es sich?
Für jemanden zu denken und ihm beim Denken zu helfen sind zwei verschiedene Dinge. Einen anderen Menschen dem eigenen Zweck zu unterstellen und seine eigenen Regeln damit zu verdrängen, heißt in dieser Reihe Kolonisierung. So sanft es auch geschieht, der Eingriff bleibt derselbe. Einem Menschen Raum und Bedingungen für die eigene Entwicklung zu geben, ohne sie ihm abzunehmen, heißt hier Förderung. In Abschnitt III wollten Ashby und Engelbart die Fähigkeit eines Menschen vergrößern, selbst mit Problemen umzugehen.
Es gab auch Menschen, die eine Grenze zogen, bevor Regeln in Maschinen geschrieben wurden. 2006 erklärte das deutsche Bundesverfassungsgericht den Paragrafen für nichtig, der den Abschuss eines entführten Passagierflugzeugs erlaubte. Einer der Gründe war, dass die unschuldigen Menschen an Bord damit als Mittel zur Rettung anderer behandelt würden. 2017 veröffentlichte die Ethik-Kommission des deutschen Verkehrsministeriums zum automatisierten Fahren zwanzig Regeln. Bei einem unvermeidbaren Unfall darf nicht nach Alter, Geschlecht oder körperlicher oder geistiger Verfassung unterschieden werden. Unbeteiligte dürfen nicht geopfert werden. Man kann vorher so planen, dass möglichst wenige Menschen verletzt werden. Ist der Augenblick da, lässt sich ein Leben nicht gegen ein anderes aufrechnen. Wer den Bau beschließt, das Fahrzeug auf die Straße lässt oder seinen Betrieb nach diesen Regeln bestimmt, muss für seinen Teil geradestehen. Das Urteil kann niemand ersetzen.
VIII. Bloß
Diese Reihe begann mit der Grenze, die Lovelace 1843 formulierte, und führt bis heute. Unterwegs wurden viele Menschen als Mittel gebraucht: die Fremden, die in Folge 15 in ein Telefon sprachen; die Menschen, die in Folge 16 online ein Bild nach dem anderen beschrifteten; die Menschen, die in Folge 19 Bücher schrieben und Parlamentsprotokolle übersetzten; die Menschen, die in Folge 20 Kristalle züchteten oder Foldit spielten; die Menschen, die in Folge 21 Webseiten schrieben oder einem Beitrag ihre Stimme gaben; die Menschen vor den Bildschirmen in Nairobi und Jishishan in Folge 22; die Menschen, die in Folge 24 die Fragen für die letzte Prüfung stellten. Was Maschinen von ihnen lernten, waren Wörter, Bilder, Urteile und Vorlieben. Es waren ihre Spuren.
Nach Kants Satz sind sie alle zugleich Zweck, während man sie als Mittel gebraucht. Sie haben ihre eigene Zeit, ihren Lohn, ihre Müdigkeit, ihre Trauer und ihre Pläne. Selbst wenn einiges davon in den Daten steht, müssen sie nicht erst beweisen, was sie wert sind. Die Hand der Mutter im Dokumentarfilm ging durch das Bild ihrer Tochter hindurch. Bei jedem Neustart vergaß Barbeaus Programm, was er ihm gesagt hatte. Wörter, Stimmen und Aussehen lassen sich nachbilden und können der Sehnsucht einen Ort geben. Erst wenn die Nachbildung den Menschen ersetzen soll, soll sie ein gleichwertiger Ersatz sein. Würde hat nach Kant gerade das, wofür es keinen solchen Ersatz gibt. Das Bild kann die Mutter noch einmal die Hand ausstrecken lassen. Es kann ihr die Hand nicht an Stelle ihrer Tochter halten.
Auch die Grenzen, von denen hier die Rede war, sind verschiedener Art. Turing bewies, dass es für eine Klasse von Fragen kein allgemeines Entscheidungsverfahren gibt. Das Ergebnis auf einem Prüfungsbogen sagt, wie die Maschine bei genau diesen Aufgaben abgeschnitten hat. Geht es um einen Menschen, kann eine Berechnung seine Spuren erfassen. Manche Entscheidungen muss er selbst treffen, manche Antworten selbst geben. Niemand kann seinen Platz einnehmen. Wie wir heute KI bauen und verwenden: An einem Punkt möchte ich festhalten. Wir können sie als Mittel gebrauchen, Menschen aber niemals bloß als Mittel.
Noch werden Maschinen gebaut. Wo aber die Grenze liegt, das muss diese Generation vielleicht nicht mehr der nächsten überlassen.
Alle sechsundzwanzig Folgen dieser Reihe wurden im Entwurf von Claude geschrieben, dem KI-Modell des Unternehmens Anthropic. Auch die Abschnitte über Anthropic in den Folgen 22 bis 25 stammen im Entwurf von Claude. KI ist hier ein Werkzeug. Sie kann das Urteil nicht ersetzen. Für jedes Urteil, das hier steht, trage ich die Verantwortung.