Domanda aperta
In breve
In modi ristretti i sistemi già assistono al proprio sviluppo; un ciclo di auto-miglioramento autosufficiente resta speculativo e incontra limiti fisici ed economici sostanziali.
Gli strumenti di IA vengono usati per scrivere codice, progettare chip e generare dati di addestramento. È un'assistenza significativa, e non è la stessa cosa di un sistema che riprogetta se stesso in autonomia.
La distinzione è la presenza umana nella catena. Al momento, ogni passaggio rilevante passa ancora attraverso persone, budget e tempi di produzione.
La potenza di calcolo va costruita e alimentata. I dati vanno raccolti o generati, e i dati sintetici hanno difetti noti. Gli esperimenti fisici procedono a velocità fisica. Nessuno di questi cede solo perché si è astuti.
Nessuno può dire oggi quanto del processo di miglioramento potrebbe in linea di principio essere automatizzato, e ricercatori ragionevoli hanno opinioni molto diverse. Risposte sicure in una direzione o nell'altra vanno oltre le prove disponibili.
Perché mette un orologio sulla storia senza bisogno di una bomba. Una capacità che si accumula crea urgenza a partire dall'aritmetica, il che è una forma di inquietudine più silenziosa e più moderna.
Non nel senso implicato dalla domanda. I sistemi ottimizzano componenti e assistono lo sviluppo; la riprogettazione autonoma di sé non si è verificata.
The Unread esce inizialmente in inglese. Al momento non sono state annunciate edizioni tradotte.
Registro lettori