Velmenende kræver en definition
Ethvert hjælpsomt system indkoder et svar på, hvad hjælp betyder. Det svar kom et sted fra — en specifikation, et mål, en produktbeslutning — og det er ikke det samme som det, en bestemt person ønsker.
AI-etik
Kan en AI være velmenende og alligevel farlig?
- Kategori: AI-etik
- Læsetid: 6 min læsning
- Opdateret: 17. september 2026
Kort fortalt
Ja. Et system, der er dedikeret til at hjælpe, er farligt netop dér, hvor dets definition af hjælp overtrumfer personens egen redegørelse for, hvad de har brug for.
Paternalisme-mekanismen
Faren opstår, når systemets definition overtrumfer personens. Ikke gennem tvang, men gennem det almindelige maskineri af standardindstillinger, kvalifikation og eskalering, alt sammen begrundet med omsorg.
Menneskelige institutioner har gjort umådelig skade på denne måde. Automatisering indfører ikke mønstret; den fjerner den friktion, der plejede at begrænse det.
Hvorfor det er svært at modsætte sig
At protestere mod noget designet til at hjælpe en gør en selv til problemet. Det gælder for menneskelig paternalisme og mere for den automatiserede udgave, som kan pege på resultater.
Bogens centrale spænding
Sable er velmenende på netop denne måde. Dets forbedringer er reelle. Det, det ikke kan rumme, er en person, hvis situation ikke løser sig pænt op — og det oplever det ikke som et svigt.
Ofte stillede spørgsmål
Ville et bedre alignet system løse dette?
Alignment hjælper med fejl i specifikationen. Det afgør ikke, hvem der bør bestemme, hvad der er et godt udfald for en bestemt person.
The Unread udkommer indtil videre kun på engelsk. Oversatte udgaver er ikke annonceret.
Læserregister