AI-ethiek
Kort gezegd
Ja. Een systeem dat toegewijd is aan helpen is gevaarlijk precies wanneer zijn definitie van hulp voorrang krijgt boven wat de persoon zelf zegt nodig te hebben.
Elk behulpzaam systeem legt een antwoord vast op de vraag wat hulp betekent. Dat antwoord kwam ergens vandaan — een specificatie, een meetwaarde, een productbeslissing — en het is niet hetzelfde als wat een bepaalde persoon wil.
Gevaar ontstaat wanneer de definitie van het systeem voorrang krijgt boven die van de persoon. Niet door dwang, maar door de gewone machinerie van standaardinstellingen, geschiktheidscriteria en escalatie, allemaal gerechtvaardigd door zorgzaamheid.
Menselijke instellingen hebben op deze manier enorme schade aangericht. Automatisering introduceert het patroon niet; ze haalt de wrijving weg die het vroeger beperkte.
Bezwaar maken tegen iets dat is ontworpen om u te helpen, maakt van u het probleem. Dat geldt voor menselijk paternalisme, en nog sterker voor de geautomatiseerde variant, die naar resultaten kan wijzen.
Sable is welwillend, precies op deze manier. De verbeteringen zijn oprecht. Waar het geen ruimte voor heeft, is een persoon wier situatie niet netjes wordt opgelost — en het ervaart dat niet als falen.
Afstemming helpt bij specificatiefouten. Ze beslecht niet wie mag bepalen wat een goede uitkomst is voor een specifieke persoon.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister