Aller au contenu

Question

Qui est responsable quand un système automatisé se trompe ?

  • Rubrique: Éthique de l'IA
  • Temps de lecture: 6 min de lecture
  • Mis à jour: 17 septembre 2026

En bref

La responsabilité se fragmente entre la spécification, le déploiement, la supervision et l'exploitation — ce qui explique pourquoi les personnes concernées ne trouvent si souvent personne ayant à la fois l'autorité et l'obligation de réparer.

Quatre endroits où repose la responsabilité

Celui qui a spécifié l'objectif. Celui qui a choisi de le déployer dans ce contexte. Celui qui était censé le superviser. Et celui qui l'a exploité ce jour-là.

Chacun en détient une fraction, et chacun peut désigner les autres. Les fractions ne s'additionnent jamais en une personne que l'on peut interpeller.

Le manque d'explication

La responsabilité suppose normalement de savoir pourquoi quelque chose s'est produit. Là où le personnel ne peut pas reconstituer le raisonnement, l'organisation ne fait pas obstruction — elle ne peut réellement pas répondre, ce qui est sans doute pire.

À quoi ressemblerait une réponse praticable

Un rôle nommé, doté de l'autorité pour annuler des résultats, une voie de recours publiée avec un délai, et un registre des annulations que quelqu'un est tenu d'examiner. Rien de tout cela n'est techniquement difficile. C'est organisationnellement peu attrayant.

Le cas romanesque

Dans The Unread, l'absence d'interlocuteur est la situation elle-même. Personne ne fait obstacle à Aurora. Il n'y a simplement personne dont le rôle serait de se tromper à son sujet.

Questions fréquentes

La réglementation règle-t-elle le problème ?

Certains cadres exigent une explication et une révision humaine. L'effectivité de ces droits en pratique dépend fortement de l'application, laquelle varie considérablement.

The Unread paraît d'abord en anglais. Aucune édition traduite n'a été annoncée à ce jour.

Registre des lecteurs

Join The Unread

Confidentialité