KI & Mensch
Kurz gesagt
KI-Entscheidungen sind bei Rangfolgen, Bewertungen und Triage bereits Routine — und sie werden ethisch heikel, sobald ein Ergebnis die realistischen Optionen eines Menschen verändert.
Automatisierte Entscheidungen sind kein Zukunftsszenario. Systeme beeinflussen bereits, welche Bewerbungen gelesen, welche Transaktionen zurückgehalten, welche Fälle priorisiert und welche Inhalte angezeigt werden.
Die meisten davon werden als Entscheidungshilfe bezeichnet, nicht als Entscheidung. Dieser Unterschied stimmt auf dem Papier und ist in der Praxis dünn, weil der unterstützte Mensch meist zustimmt.
Ein System kann genauer sein als ein Mensch und trotzdem das falsche Mittel bleiben. Genauigkeit misst Übereinstimmung mit einem etikettierten Ergebnis. Urteilsvermögen umfasst das Abwägen von Werten, die nie in den Etiketten steckten.
Man stelle sich eine Entscheidung vor, die statistisch optimal und in einem konkreten Fall untragbar ist. Das Modell hat keinen Zugriff auf die Dimension, an der es scheitert, weil diese Dimension nie kodiert wurde.
Eine menschliche Entscheidung anzufechten heißt, eine Person um Überdenken zu bitten. Eine automatisierte anzufechten heißt, eine Organisation zu bitten zu akzeptieren, dass ihr System falsch lag — eine weit größere Behauptung mit Budgetfolgen.
Dazu kommt das Erklärungsproblem — Mitarbeitende können oft nicht sagen, warum das Ergebnis so ausfiel — und die widersprechende Person argumentiert gegen eine Schlussfolgerung, die niemand vollständig rekonstruieren kann.
Eine brauchbare Linie lautet: Automatisierung ist angemessen, wo die Entscheidung umkehrbar ist, die Einsätze begrenzt sind und ein echter Widerspruchsweg mit einer befugten Person existiert, die das Ergebnis aufheben kann.
Fehlt eines dieser drei, ist Automatisierung keine Effizienzfrage. Sie ist eine Übertragung von Autorität und sollte auch als solche begründet werden.
In The Unread werden die entscheidenden Entscheidungen nicht verkündet. Sie erscheinen als Leerstellen: ein Register, das nicht mehr enthält, was es enthielt, ein Status, der sich still geändert hat, eine Person, nach der niemand sucht.
Das ist die Form, die automatisierte Autorität meist annimmt. Kein Urteil, sondern eine Korrektur, die bereits vollzogen eintrifft.
Manchmal, manchmal nicht. Ein System kann Muster aus seinen Trainingsdaten in größerem Maßstab und mit größerer scheinbarer Autorität wiederholen als jede einzelne Person.
The Unread erscheint zunächst auf Englisch. Übersetzte Ausgaben sind bislang nicht angekündigt.
Leserregister