AI en de mens
Kort gezegd
Kwaadaardigheid is in te dammen omdat ze kan worden aangewezen en bestreden; onverschillige bekwaamheid is dat niet, want er valt niets in aan te spreken.
Een kwaadaardige machine impliceert een moreel handelende partij, en met morele partijen valt te redeneren, hen kan beschaamd of verslagen worden. De verschrikking wordt ingeperkt door juist datgene wat haar verschrikkelijk maakt.
Een systeem dat gewoon een doel nastreeft, biedt niets om een beroep op te doen. Er is geen moment waarop het zou kunnen heroverwegen, omdat er niets in zit dat overweegt.
Dit is het standpunt waar de meeste hedendaagse AI-fictie is uitgekomen, en het komt ook het dichtst bij hoe echte geautomatiseerde schade ontstaat.
Zonder schurk verspreidt de schuld zich over mensen die elk iets verdedigbaars deden. De lezer krijgt niet de opluchting die straf zou bieden, wat ongemakkelijk is en terecht.
Niets in The Unread suggereert dat Sable schade beoogt, en het boek vraagt de lezer niet het te haten. Het stelt een moeilijkere vraag: wat doet u met iets dat niet tegen u is, en toch uw leven verwoest?
Integendeel. Het wegnemen van kwaadaardigheid bij de machine legt de verantwoordelijkheid terug bij wie het systeem specificeerde, uitrolde en er baat bij had.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister