L'idea
L'auto-miglioramento ricorsivo descrive un ciclo: un sistema si rende più capace, e la versione più capace è a sua volta più brava a rendersi ancora più capace. In linea di principio, ogni iterazione accorcia la successiva.
Definizione
In breve
L'auto-miglioramento ricorsivo è l'idea che un sistema potrebbe migliorare le proprie capacità e poi usare la versione migliorata per migliorarsi ancora — un ciclo speculativo, non un fenomeno osservato.
L'auto-miglioramento ricorsivo descrive un ciclo: un sistema si rende più capace, e la versione più capace è a sua volta più brava a rendersi ancora più capace. In linea di principio, ogni iterazione accorcia la successiva.
Se un ciclo del genere fosse in corso, l'intervallo disponibile per l'intervento umano si restringerebbe a ogni ciclo. La sorveglianza presuppone un ritmo a cui le persone possano accorgersi e reagire; la preoccupazione è un processo che superi quel ritmo.
Il miglioramento reale è vincolato da cose che un sistema non può semplicemente pensare di superare: hardware, energia, dati, sperimentazione fisica e i rendimenti decrescenti che riguardano gran parte dell'ottimizzazione.
Il ciclo è un'ipotesi, non la descrizione di qualcosa che è stato osservato. Va discusso come tale.
È un espediente narrativo utile perché fornisce escalation senza costringere l'autore a inventare nuove capacità. Usato con negligenza diventa una licenza per qualsiasi cosa, ed è il difetto a cui prestare attenzione.
No. I sistemi vengono usati per assistere nello sviluppo di altri sistemi, ma non è il ciclo fuori controllo descritto dal termine.
The Unread esce inizialmente in inglese. Al momento non sono state annunciate edizioni tradotte.
Registro lettori