Essay lesen
Non Dubito

Unternehmen · 09

Kann der Mensch, der unterschreibt, wirklich stoppen?

Ein Mensch im Ablauf beweist noch kein menschliches Urteil. Informationen, Zeit, Befugnisse und Schutz vor Nachteilen durch Korrektur müssen zusammen vorliegen.

Han Qin ·

Ein Analyst öffne jeden Morgen die vom System entworfenen Bewertungen, prüfe sie und unterschreibe. Das Unternehmen sagt, die durch Automatisierung gewonnene Zeit könne dem Nachdenken dienen. Zugleich verdoppelt es seine Fallzahl und zählt jede Änderung als Unstimmigkeit in der Leistungsbewertung. Die Unterschrift bleibt. Der Raum zum Urteilen könnte immer kleiner werden.

Entscheidend ist nicht die Formulierung menschlicher Eingriff, sondern die tatsächliche Möglichkeit dieses Menschen. Hat er Zeit, Unterlagen zu erhalten und zu verstehen? Darf er das Ergebnis ändern? Schadet sorgfältiges Abweichen seiner Bewertung? Ohne diese Bedingungen kann auch ein letzter Schritt namens Prüfung nur das Drücken auf Freigabe sein.

Die Originalarbeit richtet die Forderung zuerst an das einsetzende Unternehmen: Wer Menschen urteilen lässt, muss ihre Urteilsposition wirklich ermöglichen. Nicht jeder muss zum Urteilenden umgeschult werden. Wer weiterhin gekonnte Handarbeit tun möchte, ist nicht rückständig. Arbeitsordnung und eigene Lebensrichtung sind verschiedene Dinge.

Ein wirklicher Unfall macht den Unterschied schwerer. 2018 tötete ein selbstfahrendes Uber-Testfahrzeug in Tempe eine Fußgängerin. Die NTSB-Untersuchung benannte Ablenkung der Sicherheitsfahrerin als wahrscheinliche Ursache sowie unzureichende Risikobewertung, Aufsicht und Vorkehrungen gegen nachlassende Aufmerksamkeit bei automatisierten Abläufen als beitragende Faktoren des Unternehmens. Der Bericht ist eine Sicherheitsuntersuchung, kein Urteil über sämtliche rechtlichen Verantwortungen.

Probleme im Unternehmensablauf löschen die Handlung der Bedienenden nicht aus. Umgekehrt beweist eine Sicherheitsfahrerin auf dem Sitz nicht, dass das Unternehmen alle Urteilsbedingungen bereitgestellt hat. Beides kann gleichzeitig gelten und braucht eigene Grundlagen. Ein schwerer Unfall hat andere Folgen als gewöhnliche Bürokennzahlen. Der Vergleich betrifft nur den Unterschied zwischen formaler Rolle und tatsächlichen Bedingungen.

Wirkliche Ermöglichung beginnt mit der Fähigkeit zu urteilen. Nötige Informationen müssen erreichbar und verständlich sein; Schulung, Unterstützung und ausreichende Zeit müssen vorliegen. Ein meistens richtiges System zu überwachen verlangt auch eine Antwort auf die Schwierigkeit langer Aufmerksamkeit. „Man muss sorgfältig sein“ ist kein vollständiger Entwurf.

Zweitens muss das Ergebnis veränderbar sein. Innerhalb der eigenen Aufgaben muss man korrigieren, pausieren oder einen tatsächlich befugten Eskalationsweg auslösen können. Nicht jede Stelle muss das ganze Unternehmen abschalten dürfen. Der eigene Vorgang darf aber nicht trotz erkanntem Problem nur automatisch weitergereicht werden können.

Drittens darf die Ausübung dieser Befugnis nicht zum Nachteil werden. Eine begründete Prüfung sollte nicht allein wegen zusätzlichen Zeitaufwands oder Abweichung vom System Punkte kosten. Das betrifft persönliche Vergeltung und die Struktur der Kennzahlen. Auch ohne absichtliche Bestrafung kann eine Leistungsbewertung sorgfältig Urteilende zuverlässig benachteiligen.

Ob etwas begründet war, ist nach den damals verfügbaren Informationen, Befugnissen und wirklichen Bedingungen zu beurteilen, nicht rückwärts vom Endergebnis. Schutz des Urteilens befreit auch nicht von Täuschung oder Machtmissbrauch. Dafür sind unabhängige Grundlagen nötig. Eine Absicherung darf nicht bescheinigen, dass Bedienende fortan niemals irren.

Auch vollständige Bedingungen beweisen nicht, dass jedes Mal wirklich geurteilt wurde. Einer stimmt nach Prüfung zu, ein anderer widerspricht dem System nur mechanisch. Welche Unterlagen wurden betrachtet, wer wurde gehört, welche Gründe hinterlassen? Annahme- und Ablehnungsquoten sind keine Prüfung des Inneren und der Fähigkeiten.

Eine erfundene Keramikwerkstatt erlaube der Schichtperson, die Brennkurve zu ändern oder zu stoppen, und ziehe den Verlust misslungener Ware nicht direkt vom Lohn ab. Die Regelung wirkt vollständig. Neben dem System stehen jedoch noch die Rohstoffdaten der letzten Charge. Das neue Material ist anders, die Kurve fehlerhaft. Befugnis beweist nicht, dass alle nötigen Informationen vorlagen.

Das steht neben dem Bewertungsbeispiel am Anfang: Hier fehlen Informationen, dort hemmt womöglich die Leistungsbewertung. Fehlende Bedingungen und nicht genutzte Bedingungen dürfen nicht zu einem einzigen „Pflichtversagen des Beschäftigten“ werden. Verlangt eine Stelle Urteil, sind entsprechende Schulung und Zeit nötig für die Aufgabenerfüllung, keine beliebige Zusatzleistung.

Nun zur Zurechnung. In der Entscheidung Moffatt gegen Air Canada von 2024 gab der Chatbot der Website falsche Auskunft zur Beantragung eines Trauerfalltarifs. Das Civil Resolution Tribunal von British Columbia befand, Air Canada habe nicht die angemessene Sorgfalt zur Sicherung richtiger Antworten aufgebracht. Der Chatbot könne nicht als selbständig handelndes und verantwortliches Gebilde behandelt werden. Das ist die konkrete Entscheidung dieses Falls, kein universeller Präzedenzfall, der jedes System abschließend zuordnet.

Sie beleuchtet eine Forderung der Originalarbeit: Mit „Das hat die KI gesagt“ darf ein Unternehmen den selbst eingesetzten Informationsweg nicht aus seiner Rechnung streichen. Systemausgaben bleiben auf Einrichtung, Einsatz, Nutzung und Aufsicht zurückzuführen. Ein Algorithmus ist kein Stellvertreter, der sämtliche Folgen tragen wird.

Damit wird aber nicht jede persönliche Verantwortung unmittelbar vom Unternehmen übertragen. Hat der letzte Unterzeichner weder Kontrolle noch wirkliche Urteilsbedingungen, darf die Unterschrift allein ihm nicht die gesamte Entscheidung aufladen. Zusätzliche persönliche Verantwortung braucht eine eigene Grundlage. Umgekehrt darf der Unternehmensname eigenständige Handlungen tatsächlicher Bedienender nicht verdecken.

Eine Untersuchung darf deshalb nicht beim Menschen enden, der dem Ergebnis am nächsten steht. Wer setzte die Prüfmenge, entwarf die Übereinstimmungsquote, genehmigte die Veröffentlichung und kannte die Informationslücke? Alle gehören zur Entscheidungskette. Jede Position erklärt und korrigiert ihren tatsächlichen Anteil. „Ein Prozessproblem“ darf nicht „Niemand ist verantwortlich“ heißen.

Durchsatz, Geschwindigkeit und Übereinstimmungsquote sind für sich keine Vorwürfe. Sie können Signale sein und Probleme sichtbar machen. Entscheidend ist ihre Einbindung: Verdrängen sie Prüfzeit? Benachteiligen sie begründete Abweichung? Bleibt eine Pause zur Klärung wirklich möglich?

Hohe Übereinstimmung kann ein gutes Modell bedeuten oder fehlende Änderungsmacht. Niedrige Übereinstimmung kann lebendiges Urteilen bedeuten oder ein schlechtes System. Zahlen brauchen ihre eigenen Tatsachengrundlagen. „Der Mensch urteilt noch“ anhand einer Quote abzunehmen gibt das Urteil nur an ein weiteres automatisches Signal ab.

Geht Ausführung an Systeme über, dürfen sich Stellen tatsächlich ändern. Wer zuvor Nachtwache hielt, kann neue Aufgaben lernen wollen oder diesen Weg nicht wünschen. Das Unternehmen darf Arbeit unter begründeten Befugnissen und befragbaren Regelungen verändern. Es darf die persönliche Entwicklungsrichtung nicht zugleich zum Befehl machen.

Die bisherige Fertigkeit weiter ausüben zu wollen ist eine menschliche Wahl. Ob jede bisherige Stelle erhalten bleibt, gehört zur gemeinsamen Arbeitsordnung. Beides darf nicht füreinander antworten. Dieser Essay verspricht nicht den ewigen Bestand aller ausführenden Stellen. Technischer Fortschritt befreit aber nicht automatisch von Erklärungen zu Gründen, Lasten und Ausstieg.

Spart Automatisierung dem Unternehmen bereits Kosten, darf Wandel erst recht nicht allein durch das Wort Umstellung zur von allen zu tragenden Krise erklärt werden. Wirkliche Schwierigkeiten brauchen Unterlagen. Anpassung muss weiterhin Lebensgrundlagen, Gehen und andere Richtungen schützen. Einsparungen allein rechtfertigen nicht, sämtliche Kosten auf Beschäftigte abzuwälzen.

Schulung kann Möglichkeiten schaffen. Notwendige Unterstützung zur grundlegenden Aufgabenerfüllung darf nicht zur Gunst herabgestuft werden. Auch zusätzliche Hilfe darf nicht verlangen, die unternehmensseitig bestimmte Zukunft zum eigenen Wunsch zu machen. Neue Arbeit anzunehmen, abzulehnen oder zu gehen verlangt konkrete Klärung gemeinsamer Angelegenheiten. Ein Entwicklungsslogan antwortet nicht für den Menschen.

Auch Überwachung soll sich nach Arbeitsbedarf richten, nicht nach technischer Möglichkeit. Eine Kamera im Brennraum einer Keramikwerkstatt soll die Feuerfarbe beobachten, erfasst aber die Pausenecke. Den Winkel zu ändern kann eine Kleinigkeit sein und dennoch einen wichtigen Unterschied anerkennen: Wissen zu wollen, wie das Feuer brennt, begründet nicht das Wissen über jede Lebensminute der Beschäftigten.

Für Nutzer, die einem Produkt Aufgaben übertragen, gilt dieselbe Grenze. Weniger selbst zu bedenken und ein Werkzeug für sich wählen zu lassen kann gerade ihr Urteil sein. Niemand muss jede Einzelheit persönlich erledigen. Entscheidend sind ein klarer Umfang der Ermächtigung und der Schutz nicht übertragener Angelegenheiten vor beiläufiger Fremdentscheidung.

Das Unternehmen sollte erklären, wie das System die Ermächtigung versteht und ausführt, und die entsprechende Verantwortung für angebotene Informationen tragen. Künftiges Handeln im Auftrag muss auf einem tatsächlich auslösbaren Weg gestoppt werden können. Nach einem Klick zur Freigabe darf der Widerruf nicht in Hindernissen ohne auffindbaren Eingang oder klaren Adressaten verschwinden.

Bereits abgeschlossene oder laufende Angelegenheiten sind gesondert zu betrachten. Widerruf lässt die Rechte Dritter nicht verschwinden und hebt nicht automatisch alle erledigten Geschäfte auf. Stoppen und Korrigieren richten sich weiterhin nach ursprünglicher Ermächtigung und zugehörigen Regelungen. Der Weg zur Überprüfung bleibt dabei offen.

Gibt es ein solches Unternehmen nur in der Vorstellung? Die Originalarbeit erkennt ständige Vollkommenheit in allen Belangen als Richtung an, nicht als versprochene Wirklichkeit. Ob eine bestimmte Stelle Informationen besitzt, pausieren darf und für begründete Abweichung Punkte verliert, lässt sich aber heute prüfen. Dafür muss kein ideales Unternehmen zuerst entstehen.

Die letzte Tabelle braucht weiterhin eine Unterschrift. Die Frage ist nicht, ob ein Name auf dem Papier steht, sondern ob der Mensch davor tatsächlich sehen, innehalten und ändern konnte. Soll er für sein Urteil einstehen, braucht er eine Arbeit, die mehr ist, als dem System einen menschlichen Namen zu hinterlassen.

Quellen und Lesehinweis

Grundlegender Schutz für Menschen entfällt nicht, wenn ein Unternehmen seine Ausrichtung ändert. Fabriken, Plattformen, Keramikwerkstätten und Verträge ohne historische Quellenangabe sind erfundene Beispiele. Reale Fälle sind verlinkt. Unternehmensdarstellungen, behördliche Feststellungen, Urteile und Vergleiche werden nach Datum und Umfang der jeweiligen Quellen unterschieden; sie sind keine aktuelle Rechts- oder Anlageberatung. Unternehmensrechnung, Aufgaben einer Position und persönlich begründete Verantwortung bleiben getrennt. Ausführliche Rechtsbestimmungen, der vollständige ideengeschichtliche Dialog und offene Schwellenfragen bleiben den Originalarbeiten vorbehalten.

Zugehörige wissenschaftliche Arbeit ↗

NTSB-Untersuchungsbericht zum Unfall des automatisierten Testfahrzeugs in Tempe ↗

Moffatt gegen Air Canada: Originalentscheidung (gespiegelte PDF) ↗