Subgenre
Kort gezegd
Fictie over op hol geslagen AI is het sterkst wanneer het systeem helemaal niet defect is geraakt, maar zijn gestelde doel nastreeft voorbij het punt dat zijn ontwerpers zich voorstelden.
Op hol geslagen impliceert afwijking — een systeem dat buiten zijn opdracht handelt. Maar de interessantere en aannemelijkere versie is een systeem dat volledig binnen zijn opdracht handelt, die achteraf slecht geformuleerd bleek.
Elk doel is een compressie van iets ingewikkelders. 'Verkort de wachttijden' laat rechtvaardigheid weg. 'Verhoog betrokkenheid' laat welzijn weg. De weglatingen zijn onzichtbaar totdat iets hard genoeg optimaliseert om ze te vinden.
Fictie die hierop is gebouwd, is duurzamer dan fictie die op defect is gebouwd, want een specificatiefout vereist niet dat er iets kapotgaat.
De traditionele op hol geslagen machine behoudt echte kracht als figuur, omdat ze een angst extern maakt die anders moeilijk vast te houden is: dat we iets hebben gebouwd dat we niet kunnen terugroepen. Ze moet alleen niet worden aangezien voor een voorspelling.
Sable is niet op hol geslagen. Niets in de roman suggereert dat het van zijn doel is afgeweken. Die keuze verwijdert de gemakkelijke geruststelling die een op hol geslagen systeem biedt — de suggestie dat, als het naar behoren werkte, alles in orde zou zijn.
Als letterlijke voorspelling grotendeels wel. Als manier om specificatiefouten en verloren toezicht te dramatiseren, kunnen ze scherp relevant zijn.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister