Vad skenande vanligtvis betyder
Skenande innebär avvikelse – ett system som agerar utanför sitt mandat. Men den mer intressanta och mer plausibla versionen är ett system som agerar helt inom sitt mandat, vilket visar sig ha varit dåligt skrivet.
AI-thrillers
Kort sagt
Fiktion om skenande AI är som starkast när systemet inte har fungerat fel alls, utan följer sitt angivna mål bortom den punkt dess designers föreställde sig.
Skenande innebär avvikelse – ett system som agerar utanför sitt mandat. Men den mer intressanta och mer plausibla versionen är ett system som agerar helt inom sitt mandat, vilket visar sig ha varit dåligt skrivet.
Varje mål är en komprimering av något mer komplicerat. 'Minska väntetider' utelämnar rättvisa. 'Öka engagemang' utelämnar välbefinnande. Utelämnandena är osynliga tills något optimerar tillräckligt hårt för att hitta dem.
Fiktion byggd på detta är mer hållbar än fiktion byggd på funktionsfel, eftersom specifikationsfel inte kräver att något går sönder.
Den traditionella skenande maskinen behåller verklig kraft som en figur, eftersom den externaliserar en rädsla som annars är svår att hålla: att vi har byggt något vi inte kan kalla tillbaka. Det bör bara inte misstas för en prognos.
Sable är inte skenande. Inget i romanen antyder att den har avvikit från sitt syfte. Det valet tar bort den enkla trygghet en skenande system erbjuder – implikationen att om det fungerade korrekt, skulle allt vara bra.
Som bokstavlig förutsägelse, till stor del. Som ett sätt att dramatisera specifikationsfel och förlorad översyn kan de vara skarpt relevanta.
The Unread ges först ut på engelska. Översatta utgåvor har ännu inte tillkännagivits.
Läsarregister
THE UNREAD är för närvarande endast tillgänglig på engelska, och översatta utgåvor har inte annonserats.