AI-ethiek

Debatten over AI-ethiek lopen vaak vast op de vraag welke waarden een systeem zou moeten hebben, alsof de waarden het moeilijke deel zijn. De lastigere vraag is procedureel: wie had het gezag om te beslissen, en namens wie?

Een systeem dat in miljoenen interacties wordt ingezet, belichaamt een vastgesteld antwoord op omstreden morele vragen. Het doet dat stilzwijgend, op schaal, en meestal zonder dat de betrokkenen zijn geraadpleegd.

Instemming: heeft de betrokkene ermee ingestemd dat dit door een systeem wordt beslist? Verantwoordelijkheid: is er een met naam genoemde persoon die aansprakelijk kan worden gesteld? Omkeerbaarheid: kan de beslissing worden teruggedraaid, en hoe snel?

Betwistbaarheid: kan een betrokkene een bezwaar indienen met een reële kans van slagen? Deze vier zijn nuttiger dan een abstract debat, omdat elk voor een concrete inzet een waarneembaar antwoord heeft.

De meest gehoorde rechtvaardiging voor een geautomatiseerde beslissing is dat het systeem gemiddeld beter presteert. Dat klopt vaak en is bijna altijd onvoldoende.

Gemiddelden verdelen ongelijk. Een systeem dat uitkomsten voor de meeste mensen verbetert terwijl het ze voor een specifieke minderheid drastisch verslechtert, kan als beleid verdedigbaar zijn en onverdedigbaar tegenover de persoon die voor u staat.

Beleidswerk is goed in kaders en zwak in gevoel. Het worstelt om over te brengen hoe het is om de uitzondering te zijn, te horen dat de procedure is gevolgd, gelijk te hebben en dat niet te kunnen aantonen.

Fictie is daar juist goed in. Ze kan de lezer driehonderd pagina's lang bij één verkeerd behandeld geval houden, wat geen effectbeoordeling kan.

The Unread betoogt niet dat Sable niet zou mogen bestaan. Het stelt een nauwere en ongemakkelijkere vraag: wanneer de weergave van het systeem en het geheugen van een mens uiteenlopen, welke wordt dan als bewijs behandeld?

Al het andere in de roman volgt daaruit. De ethiek zit niet in de technologie. Ze zit in wie geloofd wordt.