L'idée
L'auto-amélioration récursive décrit une boucle : un système se rend plus capable, et la version plus capable est encore meilleure pour se rendre plus capable. En principe, chaque itération raccourcit la suivante.
Définition
En bref
L'auto-amélioration récursive est l'idée qu'un système pourrait améliorer sa propre capacité, puis se servir de la version améliorée pour s'améliorer encore — une boucle spéculative, pas un phénomène observé.
L'auto-amélioration récursive décrit une boucle : un système se rend plus capable, et la version plus capable est encore meilleure pour se rendre plus capable. En principe, chaque itération raccourcit la suivante.
Si une telle boucle s'enclenchait, l'intervalle disponible pour une intervention humaine se réduirait à chaque cycle. Le contrôle suppose un rythme auquel les personnes peuvent remarquer et réagir ; l'inquiétude porte sur un processus qui dépasserait ce rythme.
L'amélioration réelle est contrainte par des éléments qu'un système ne peut pas simplement dépasser par la pensée : le matériel, l'énergie, les données, l'expérimentation physique et les rendements décroissants qui touchent la plupart des optimisations.
La boucle est une hypothèse, pas la description de quoi que ce soit d'observé. Elle devrait être présentée comme telle.
C'est un dispositif narratif utile car il fournit une escalade sans obliger l'auteur à inventer de nouvelles capacités. Utilisé sans précaution, il devient un permis pour n'importe quoi, ce qui est le mode d'échec à surveiller.
Non. Les systèmes servent à assister le développement d'autres systèmes, ce qui n'est pas la boucle incontrôlable que décrit le terme.
The Unread paraît d'abord en anglais. Aucune édition traduite n'a été annoncée à ce jour.
Registre des lecteurs