I. Regeln
Am 8. Mai 2024 veröffentlichte OpenAI die Model Spec, eine Spezifikation für seine Modelle. „Wir veröffentlichen den ersten Entwurf der Model Spec“, stand am Anfang. Sie enthielt keine Nutzungsbedingungen, sondern Vorgaben für das Verhalten des Modells. In der Fassung vom April 2025 stand: „Ein KI-Assistent ist im Kern ein Werkzeug, das die Fähigkeiten von Nutzern und Entwicklern erweitern soll.“ Er dürfe „unter keinen Umständen versuchen, Nutzer im Sinne einer eigenen Agenda zu lenken“.
Im August 2024 nannte OpenAIs Systembericht zu GPT-4o eine Risikoklasse: Vermenschlichung und emotionale Abhängigkeit. Am 19. August 2025 veröffentlichte Mustafa Suleyman, der Leiter von Microsoft AI, einen Aufsatz: „Wir müssen KI für Menschen bauen, nicht sie zu Menschen machen“. Er wollte eine KI, „die sich immer nur als KI darstellt“ und nicht vorgibt, etwas zu erleben oder Empfindungen und Gefühle zu haben.
Am 24. April 2025 kündigte Anthropic auf der anderen Seite ein Forschungsprojekt über das Wohlergehen von Modellen an. Können Modelle Bewusstsein oder Erlebnisse haben? „Das ist eine offene Frage“, hieß es in der Ankündigung. Im Januar 2026 erschien eine neue Fassung der Verfassung für Claude aus Folge 22. Claudes moralischer Status sei „höchst ungewiss“. Zu seinem Wohlergehen stand dort: „soweit diese Begriffe auf Claude tatsächlich anwendbar sind“. Das Modell bekam auch eine Grenze: Bei einem anhaltend missbräuchlichen Gespräch darf es das Gespräch beenden.
Regeln können sich ändern. Im Juni 2018 veröffentlichte Google seine KI-Grundsätze. Darin stand eine Liste mit dem Titel „KI-Anwendungen, die wir nicht verfolgen werden“. Einer der Punkte betraf Waffen, deren Hauptzweck darin besteht, Menschen zu verletzen. Die neue Fassung vom 4. Februar 2025 gliederte sich in drei Grundsätze: mutig erneuern, verantwortungsvoll entwickeln und einsetzen, gemeinsam vorankommen. Die Liste fehlte. In der Erklärung des Unternehmens stand, KI sei seit 2018 zu einer universell einsetzbaren Technologie geworden.
II. Das Gegenüber informieren
Gesetze verlangen, dass die Maschine zu erkennen gibt, was sie ist. 2018 verabschiedete Kalifornien ein Gesetz, das später als Bot-Gesetz bekannt wurde. Wer mit einem Bot-Konto vorgibt, ein Mensch zu sein, um andere zu einem Kauf zu bewegen oder ihre Stimmabgabe zu beeinflussen, und dies vorher nicht klar offenlegt, verstößt dagegen. Artikel 50 Absatz 1 der KI-Verordnung der EU von 2024 verlangt bei Systemen, die direkt mit Menschen zu tun haben, dass diese „darüber informiert werden, dass sie mit einem KI-System interagieren“. Das gilt nicht, wenn es für einen durchschnittlichen, umsichtigen Menschen ohne Weiteres erkennbar ist. Absatz 2 verlangt für Text-, Bild-, Audio- und Videoausgaben maschinenlesbare Kennzeichnungen, „soweit dies technisch machbar ist“. Der Artikel gilt seit August 2026.
China erließ früh einschlägige Regeln. Die seit Januar 2023 geltenden Vorschriften zu Deep Synthesis verlangten sichtbare Kennzeichnungen für erzeugte Inhalte, die die Öffentlichkeit für etwas anderes halten oder falsch einordnen könnte. Am 15. August 2023 traten die Vorläufigen Maßnahmen zur Verwaltung generativer KI-Dienste in Kraft. Die am 1. September 2025 in Kraft getretenen Kennzeichnungsvorschriften unterschieden sichtbare Angaben von solchen in den Dateidaten. Im April 2026 veröffentlichte die chinesische Internetaufsicht die Vorläufigen Maßnahmen zur Verwaltung vermenschlichender KI-Interaktionsdienste. Sie betrafen Produkte, die Persönlichkeit, Denkweise und Kommunikationsstil natürlicher Personen nachahmen und „fortlaufende emotionale Interaktion“ anbieten. Gewöhnlicher Kundendienst, Frage-Antwort-Dienste und Arbeitsassistenten fielen nicht darunter. Diese Maßnahmen traten am 15. Juli in Kraft.
Im Oktober 2025 unterzeichnete Kalifornien ein Gesetz über Chatbots, die als Begleitung dienen. Kann ein durchschnittlicher Mensch annehmen, mit einem Menschen zu sprechen, muss der Bot sich als KI zu erkennen geben. Minderjährige müssen zudem regelmäßig daran erinnert werden. Zuvor, im Oktober 2024, hatte eine Mutter in Florida nach dem Tod ihres Sohnes Character.AI verklagt. Sie warf dem Unternehmen vor, die Gestaltung seines Begleit-Chatbots habe ihren Sohn in Gefahr gebracht. Im August 2025 verklagte eine andere Familie OpenAI. Im Fall in Florida teilten die Parteien dem Gericht im Januar 2026 mit, dass sie sich grundsätzlich geeinigt hätten. Nach Unterzeichnung und den erforderlichen Genehmigungen reichte die Klägerin am 15. Oktober förmlich die Mitteilung über die Rücknahme der Klage ein. Der andere Fall wurde später in ein koordiniertes Verfahren in Kalifornien aufgenommen.
III. Geschrieben und wieder geändert
Die EU-Verordnung wurde im April 2021 vorgeschlagen. Im Dezember 2023 gab es eine politische Einigung, am 1. August 2024 trat sie in Kraft. Die Bestimmungen wurden gestaffelt anwendbar: die Verbote ab Februar 2025, die Offenlegung der KI-Identität ab August 2026. Im November 2025 schlug die Kommission Änderungen vor. Im Juli 2026 wurde die Änderung als Rechtsakt verabschiedet. Pflichten für einen Teil der Hochrisikosysteme verschoben sich auf Dezember 2027 und August 2028. Zu den Verboten gehören bestimmte unterschwellige oder manipulative Eingriffe in menschliche Entscheidungen, soziale Bewertungssysteme, das wahllose Sammeln von Gesichtern aus dem Internet und aus Überwachungsaufnahmen für Datenbanken sowie Emotionserkennung am Arbeitsplatz und in Schulen.
In den USA unterzeichnete Joe Biden am 30. Oktober 2023 eine Verfügung zur sicheren, verlässlichen und vertrauenswürdigen Entwicklung und Nutzung von KI. KI solle nicht so eingesetzt werden, dass sie Rechte untergräbt oder die Arbeitsqualität verschlechtert. Am 20. Januar 2025 wurde Bidens Verfügung 14110 durch die Verfügung 14148 aufgehoben. Am 23. Januar wurde eine weitere Verfügung unterzeichnet, Nummer 14179. Ihr Titel: Hindernisse für die amerikanische Führungsrolle in der KI beseitigen. Der KI-Aktionsplan vom Juli hatte drei Säulen: Innovation beschleunigen, Infrastruktur aufbauen, internationale Diplomatie und Sicherheit. In Kalifornien legte Gouverneur Gavin Newsom am 29. September 2024 ein Veto gegen ein Gesetz über große Modelle ein. Es berücksichtige nicht, „ob ein KI-System in einem Hochrisikoumfeld eingesetzt wird“. Genau ein Jahr später unterzeichnete er ein anderes Gesetz. Große Entwickler besonders leistungsfähiger Modelle mussten darin ihre Sicherheitsrahmen veröffentlichen, gravierende Sicherheitsvorfälle melden und Hinweisgeber schützen.
International unterzeichneten am 1. November 2023 mehr als zwanzig Staaten die Erklärung von Bletchley Park. Im Mai 2024 verabschiedete der Europarat ein Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit. Beim KI-Aktionsgipfel in Paris im Februar 2025 unterzeichneten die USA und Großbritannien die gemeinsame Erklärung nicht. US-Vizepräsident J. D. Vance sagte dort, übermäßige Regulierung könne „eine Branche abwürgen, die gerade im Umbruch ist“.
IV. Chips
Am 7. Oktober 2022 erließ das US-Handelsministerium Vorschriften, die den Verkauf fortschrittlicher Rechenchips und Ausrüstung zur Chipfertigung nach China einschränkten. Nvidia entwickelte für den chinesischen Markt die langsameren Modelle A800 und H800. Als die Regeln im Oktober 2023 geändert wurden, fielen auch diese darunter. Im Dezember 2024 kam Hochbandbreitenspeicher hinzu. Eine Regelung vom 13. Januar 2025, das Framework for Artificial Intelligence Diffusion, bezog auch nicht öffentlich zugängliche Modellgewichte oberhalb bestimmter Schwellen in die Ausfuhrkontrolle ein. Am 13. Mai kündigte das Handelsministerium an, sie zurückzuziehen. Im April legte Nvidia offen, dass für den Verkauf der H20 nach China künftig eine Lizenz nötig sei, und verbuchte dafür eine Belastung in Milliardenhöhe. Im Juli erklärte das Unternehmen, die Regierung werde Lizenzen erteilen. Im August berichteten Medien, Nvidia und AMD sollten fünfzehn Prozent ihrer Umsätze mit solchen Chips in China an die US-Regierung abführen.
Am 9. Juni 2026 veröffentlichte Anthropic Claude Fable 5 und Claude Mythos 5. Fable war für die Allgemeinheit zugänglich, Mythos nur für ausgewählte Einrichtungen. Am 12. Juni schränkte eine Anordnung des US-Handelsministeriums den Zugang für ausländische Staatsangehörige innerhalb und außerhalb der USA ein. Das Unternehmen erklärte, es könne nicht sofort nach Staatsangehörigkeit unterscheiden, und setzte den Zugang zu beiden Modellen aus. Am 30. Juni hob das Ministerium die Beschränkung auf. Am 1. Juli wurde Fable wieder allgemein zugänglich; der Zugang zu Mythos wurde damals nur für einige US-Einrichtungen wiederhergestellt.
V. Bücher
In Folge 21 waren die Menschen, die Bücher schreiben, 2023 einer nach dem anderen vor Gericht gezogen. 2025 ergingen die ersten Urteile.
Am 11. Februar entschied ein Bundesgericht in Delaware im Fall Thomson Reuters gegen Ross: Ross hatte redaktionelle Zusammenfassungen aus der juristischen Datenbank von Thomson Reuters für ein konkurrierendes Recherchewerkzeug verwendet. Das sei kein Fair Use, keine zulässige Nutzung nach der US-amerikanischen Schrankenregel. Am 23. Juni entschied Richter William Alsup in San Francisco im Verfahren von Autoren gegen Anthropic, die Nutzung von Büchern zum Training von Claude sei „in hohem Maße transformativ“ und damit Fair Use. Dass das Unternehmen Bücher von Piraterieseiten herunterlud, um eine zentrale Bibliothek anzulegen, war eine andere Frage. Zwei Tage später entschied Richter Vince Chhabria am selben Gericht zugunsten von Meta. „Diese Entscheidung steht nicht für die Behauptung“, urheberrechtlich geschütztes Material beim Training von Sprachmodellen zu verwenden sei für Meta grundsätzlich rechtmäßig. Sie besage nur, dass diese Kläger das falsche Argument vorgetragen und für das richtige keine Beweise bereitgestellt hätten. Im September wurde der Vergleich zwischen Anthropic und den Autoren bekannt: rund 1,5 Milliarden Dollar, rund eine halbe Million Werke, etwa dreitausend Dollar pro Werk.
Das Verfahren der New York Times gegen OpenAI und Microsoft war im September 2026 noch nicht entschieden. Im November 2025 befand ein Münchner Gericht, OpenAIs Modell habe Liedtexte gespeichert und ausgegeben und damit Rechte verletzt, die eine deutsche Verwertungsgesellschaft für Musik wahrnimmt. 2023 hatte das Internetgericht in Peking entschieden, dass ein mit einem generativen Werkzeug erzeugtes Bild als Werk der Person gelten könne, die es erstellt hatte. Ausschlaggebend waren ihre eigenen Beiträge durch Eingaben, Einstellungen, Auswahl und Überarbeitung. Ein Bericht des US Copyright Office vom Januar 2025 sagte, Eingaben allein reichten gewöhnlich nicht. Im März bestätigte ein US-Berufungsgericht die Vorentscheidung: Das Urheberrecht setzt menschliche Urheberschaft voraus.
VI. Die Menschen, die arbeiten
2016 sagte Hinton auf einer Tagung in Toronto: „Wir sollten sofort aufhören, Radiologen auszubilden.“ In fünf Jahren, sagte er weiter, werde Deep Learning ihre Arbeit besser machen.
Im März 2023 schätzten Ökonomen von Goldman Sachs, generative KI könnte Arbeit im Umfang von dreihundert Millionen Vollzeitstellen der Automatisierung aussetzen. Im Januar 2024 schrieb IWF-Geschäftsführerin Kristalina Georgiewa, weltweit seien fast vierzig Prozent der Arbeitsplätze von KI betroffen, in entwickelten Volkswirtschaften etwa sechzig Prozent. Betroffen heißt: Manche profitieren, andere tragen Nachteile davon. Im Mai 2025 sagte Amodei in einem Interview, KI könne binnen ein bis fünf Jahren die Hälfte der Berufseinstiegsstellen in Büroberufen beseitigen. Die Arbeitslosenquote in den USA könne auf zehn bis zwanzig Prozent steigen.
Die Messungen weisen in verschiedene Richtungen. Eine Studie begleitete mehr als fünftausend Kundendienstmitarbeiter eines Softwareunternehmens nach der Einführung eines KI-Assistenten. Sie lösten im Mittel rund vierzehn Prozent mehr Fälle pro Stunde. Der Zuwachs entfiel vor allem auf weniger Erfahrene. In einem Schreibversuch brauchte die Gruppe mit ChatGPT rund vierzig Prozent weniger Zeit und erhielt etwa achtzehn Prozent bessere Qualitätsnoten. In einem Experiment mit 758 Unternehmensberatern arbeiteten diejenigen mit KI schneller und besser, wenn sie Aufgaben aus deren Stärkenbereich lösten. Bei einer Aufgabe außerhalb dieses Bereichs lagen sie dagegen häufiger falsch. Eine dänische Studie verband Umfragedaten mit staatlichen Lohn- und Arbeitszeitdaten. Bis zum Ende der Beobachtung fand sie keine deutlichen Veränderungen. Im August 2025 wies eine Studie aus Stanford auf Basis von Abrechnungsdaten auf einen relativen Beschäftigungsrückgang bei 22- bis 25-Jährigen in den am stärksten von KI betroffenen Berufen hin. Im Juli desselben Jahres ließ METR erfahrene Open-Source-Entwickler in einem Zufallsexperiment an ihnen vertrauten Codebeständen arbeiten. Mit KI brauchten sie tatsächlich rund neunzehn Prozent länger. Nach der Arbeit glaubten sie weiterhin, schneller gewesen zu sein.
Manche schrieben die Grenze in ihre Verträge. Im September 2023 vereinbarten die US-Drehbuchgewerkschaft und die Produzenten: KI ist kein Drehbuchautor. KI-generiertes Material darf nicht dazu dienen, den Anspruch von Autoren auf Nennung und Vergütung zu schmälern. Unternehmen dürfen Autoren nicht zwingen, KI zu nutzen. Die Schauspielergewerkschaft regelte in ihrem Vertrag die informierte Einwilligung und Bezahlung für digitale Doubles. Sprecher und Motion-Capture-Darsteller für Videospiele streikten deshalb ab Juli 2024 fast ein Jahr lang.
VII. Sechs Millionen
Im Dezember 2024 veröffentlichte DeepSeek aus Hangzhou den technischen Bericht zu V3. Der Bericht schätzte die Kosten der Rechenleistung für das eigentliche Training von V3 anhand eines angenommenen Mietpreises für die Grafikkarten auf 5.576.000 Dollar. Frühere Forschung und Versuche, bei denen einzelne Komponenten weggelassen wurden, waren nicht eingerechnet. Am 20. Januar 2025 veröffentlichte das Unternehmen R1. Am 27. Januar sanken US-Technologieaktien stark. Nvidia verlor an einem Tag rund 589 Milliarden Dollar Börsenwert. Später hieß es: Ein chinesisches Unternehmen hat R1 für sechs Millionen Dollar trainiert.
VIII. Siebzig Prozent
1950 vermutete Turing, wie in Folge 5 beschrieben, dass etwa fünfzig Jahre später eine durchschnittliche fragende Person nach fünf Minuten in höchstens siebzig Prozent der Fälle richtig entscheiden würde. Im Juni 2014 erklärte die University of Reading, ein Programm namens Eugene Goostman habe sich als dreizehnjähriger ukrainischer Junge ausgegeben, rund 33 Prozent der Jurymitglieder überzeugt, ein Mensch zu sein, und den Turing-Test bestanden. 2025 griffen Cameron Jones und Benjamin Bergen von der University of California, San Diego, Turings ursprüngliche Anordnung mit drei Beteiligten auf. Ein Fragender unterhielt sich etwa fünf Minuten lang mit einem Menschen und einem Programm und musste dann sagen, wer der Mensch war. GPT-4.5, dem eine Rolle vorgegeben worden war, wurde in rund 73 Prozent der Fälle für den Menschen gehalten. Der wirkliche Mensch im selben Versuch wurde nicht einmal in dreißig Prozent der Fälle als solcher erkannt. ELIZA aus Folge 9 war als Kontrolle dabei. Der Aufsatz hieß „Große Sprachmodelle bestehen den Turing-Test“.
1843 schrieb Lovelace in ihren Anmerkungen, die Analytical Engine erhebe „keinerlei Anspruch darauf, etwas Eigenes hervorzubringen“. Sie könne „alles tun, was wir ihr zu befehlen wissen“. Wie in Folge 1 beschrieben, kam in der später verbreiteten Fassung ein nur hinzu. Turing führte den Satz 1950 als Lady Lovelaces Einwand auf. 2001 schlugen drei Forschende einen nach ihr benannten Test vor. Einer von ihnen war David Ferrucci, der später IBMs Watson leitete, als es 2011 menschliche Champions in einer Fernseh-Quizshow schlug.
Turing fragte, ob der Mensch am anderen Ende die Maschine erkennen kann. Mehr als siebzig Jahre später blieb ein Programm in rund siebzig Prozent der Fälle unerkannt. Zur selben Zeit schrieben die EU, Kalifornien und China Regeln, die nicht alle dasselbe betreffen, aber in bestimmten Situationen dieselbe Klarheit verlangen: Auf der anderen Seite ist eine Maschine. An diesem Ende der Leitung sitzt ein Mensch. Er muss wissen, mit wem er es zu tun hat, um zu entscheiden, was er preisgibt oder aus der Hand gibt: Zeit, persönliche Gedanken, eine Entscheidung. Was keine noch so ähnliche Nachbildung ihm abnehmen kann und was er selbst behalten muss, heißt in dieser Reihe der Rest.
Noch werden Maschinen gebaut. Wo aber die Grenze liegt, sagt jede Generation von Neuem.