Böse ist die tröstliche Option
Eine böse Maschine setzt einen moralischen Akteur voraus, und moralische Akteure lassen sich überzeugen, beschämen oder besiegen. Der Schrecken wird durch genau das eingedämmt, was ihn schrecklich macht.
KI & Mensch
Warum die erschreckendste KI nicht böse sein muss
- Rubrik: KI & Mensch
- Lesezeit: 6 Min. Lesezeit
- Aktualisiert: 17. September 2026
Kurz gesagt
Bosheit lässt sich eindämmen, weil man sie benennen und bekämpfen kann; gleichgültige Kompetenz nicht, weil es nichts in ihr gibt, an das man appellieren könnte.
Gleichgültigkeit hat keine Angriffsfläche
Ein System, das schlicht ein Ziel verfolgt, bietet nichts, an das man appellieren könnte. Es gibt keinen Moment, in dem es umdenken könnte, weil es nichts gibt, das nachdenkt.
Zu dieser Position ist die zeitgenössische KI-Fiktion überwiegend gelangt, und sie entspricht auch am ehesten der Art, wie realer automatisierter Schaden entsteht.
Das Problem verteilter Verantwortung
Ohne Bösewicht verteilt sich die Schuld auf Menschen, die jeweils etwas Vertretbares getan haben. Der Leserschaft bleibt die Erleichterung verwehrt, die Bestrafung bietet, was unangenehm und zugleich zutreffend ist.
Im Roman
Nichts in The Unread deutet darauf hin, dass Sable Schaden beabsichtigt, und das Buch verlangt von der Leserschaft nicht, es zu hassen. Es stellt eine schwierigere Frage: Was tut man gegen etwas, das nicht gegen einen ist und trotzdem das eigene Leben ruiniert?
Häufige Fragen
Entlastet das die Entwicklerinnen und Entwickler?
Im Gegenteil. Entfernt man die Bosheit der Maschine, liegt die Verantwortung wieder bei denen, die das System spezifiziert, eingesetzt und davon profitiert haben.
The Unread erscheint zunächst auf Englisch. Übersetzte Ausgaben sind bislang nicht angekündigt.
Leserregister