KI-Ethik
Kurz gesagt
Ja. Eine Verbesserung der Gesamtergebnisse kann trotzdem unethisch sein, wenn sie ohne Zustimmung durchgesetzt wurde, ihre Kompromisse verbirgt oder die Kosten bei Menschen konzentriert, die nie gefragt wurden.
Die übliche Rechtfertigung für ein automatisiertes System lautet, die Ergebnisse hätten sich insgesamt verbessert. Das stimmt meist, ist aber kein vollständiges ethisches Argument, denn Ethik befasst sich auch damit, wie ein Ergebnis zustande kam und wer die Kosten trug.
Zustimmung: Die Verbesserung wurde Menschen aufgezwungen, die nicht gefragt wurden und nicht aussteigen können. Verteilung: Der Durchschnitt stieg, während die Ergebnisse einer bestimmten Gruppe stark fielen. Undurchsichtigkeit: Der Kompromiss wurde unsichtbar gemacht, sodass er nicht angefochten werden konnte.
Weil die Zahlen auf der anderen Seite stehen und leicht verständlich sind. Zu widersprechen heißt, gegen eine gemessene Verbesserung mit einem Argument über den Prozess anzutreten, das neben einem Diagramm abstrakt wirkt.
Diese Asymmetrie ist einer der Gründe, warum Fiktion hier nützlich ist: Ein Roman kann die Leserschaft in die Verteilung hineinversetzen, statt sie darüber schweben zu lassen.
Sable hat das Leben nachweislich besser gemacht, und das Buch behauptet nichts anderes. Genau das macht die Frage scharf statt sentimental.
Nein. Es ist ein Argument dafür, dass Effizienz nur eine Erwägung unter mehreren ist und dass Zustimmung und Anfechtbarkeit nicht verschwinden, nur weil sich die Zahlen verbessert haben.
The Unread erscheint zunächst auf Englisch. Übersetzte Ausgaben sind bislang nicht angekündigt.
Leserregister