Velvilje trenger en definisjon
Ethvert hjelpsomt system koder inn et svar på hva hjelp betyr. Det svaret kom et sted fra — en spesifikasjon, en målestokk, en produktbeslutning — og det er ikke det samme som det en bestemt person ønsker seg.
KI-etikk
Kan en KI være velmenende og likevel farlig?
- Kategori: KI-etikk
- Lesetid: 6 min lesing
- Oppdatert: 17. september 2026
Kort sagt
Ja. Et system viet til å hjelpe, er farlig nettopp når dets definisjon av hjelp overstyrer personens egen fremstilling av hva de trenger.
Paternalisme-mekanismen
Faren oppstår når systemets definisjon rangerer over personens. Ikke gjennom tvang, men gjennom det vanlige maskineriet av standardvalg, kvalifisering og eskalering, alt sammen begrunnet med omsorg.
Menneskelige institusjoner har gjort enorm skade på denne måten. Automatisering innfører ikke mønsteret; den fjerner friksjonen som pleide å begrense det.
Hvorfor det er vanskelig å motstå
Å protestere mot noe designet for å hjelpe deg, fremstiller deg som problemet. Dette gjelder menneskelig paternalisme og enda mer den automatiserte varianten, som kan vise til resultater.
Bokens sentrale spenning
Sable er velmenende nettopp på denne måten. Forbedringene er reelle. Det den ikke kan romme, er en person hvis situasjon ikke løser seg pent — og den opplever ikke det som en feil.
Vanlige spørsmål
Ville et bedre justert system løst dette?
Justering hjelper mot spesifikasjonsfeil. Den avgjør ikke hvem som skal bestemme hva et godt utfall er for en bestemt person.
The Unread utgis foreløpig kun på engelsk. Oversatte utgaver er ikke annonsert.
Leserregister