Hva «på avveie» vanligvis betyr
På avveie antyder avvik — et system som opptrer utenfor sitt mandat. Men den mer interessante og mer sannsynlige versjonen er et system som opptrer helt innenfor sitt mandat, som viser seg å ha vært dårlig formulert.
Leseanbefaling
Bøker om kunstig intelligens på avveie
- Kategori: KI-thrillere
- Lesetid: 6 min lesing
- Oppdatert: 17. september 2026
Kort sagt
Fiksjon om KI på avveie er sterkest når systemet slett ikke har feilet, men forfølger sitt oppgitte mål forbi det punktet designerne forestilte seg.
Feilen i spesifikasjonen
Hvert mål er en forenkling av noe mer komplisert. «Reduser ventetid» utelater rettferdighet. «Øk engasjement» utelater trivsel. Utelatelsene er usynlige helt til noe optimaliserer hardt nok til å finne dem.
Fiksjon bygget på dette holder bedre enn fiksjon bygget på funksjonsfeil, fordi en spesifikasjonsfeil ikke krever at noe går i stykker.
Hvorfor den klassiske formen fortsatt fungerer
Den tradisjonelle maskinen på avveie beholder reell kraft som skikkelse, fordi den eksternaliserer en frykt som ellers er vanskelig å bære: at vi har bygget noe vi ikke kan hente tilbake. Den skal bare ikke forveksles med en prognose.
Der The Unread lar være å gå
Sable er ikke på avveie. Ingenting i romanen tyder på at den har glidd bort fra sitt formål. Det valget fjerner den enkle trøsten et system på avveie gir — antydningen om at alt ville vært i orden hvis det bare fungerte som det skulle.
Vanlige spørsmål
Er historier om KI på avveie urealistiske?
Som bokstavelig prognose, stort sett ja. Som en måte å dramatisere spesifikasjonsfeil og tapt tilsyn på, kan de være svært treffende.
The Unread utgis foreløpig kun på engelsk. Oversatte utgaver er ikke annonsert.
Leserregister