AGI & Superintelligens
Kort sagt
På snäva sätt hjälper system redan till i sin egen utveckling; en självupprätthållande förbättringsloop förblir spekulativ och står inför betydande fysiska och ekonomiska begränsningar.
AI-verktyg används för att skriva kod, designa chip och generera träningsdata. Detta är meningsfull hjälp, och det är inte samma sak som ett system som autonomt omdesignar sig själv.
Skillnaden är människan i kedjan. För närvarande passerar varje steg av betydelse fortfarande genom människor, budgetar och tillverkningstidslinjer.
Beräkningar måste byggas och drivas. Data måste samlas in eller genereras, och syntetisk data har kända fellägen. Fysiska experiment körs i fysisk hastighet. Inget av detta ger vika för enbart smarthet.
Ingen kan för närvarande säga hur mycket av förbättringsprocessen som i princip skulle kunna automatiseras, och rimliga forskare har mycket olika åsikter. Självsäkra svar i båda riktningarna ligger före bevisen.
Eftersom det sätter en klocka på berättelsen utan att behöva en bomb. En förmåga som förstärks skapar brådska ur aritmetik, vilket är en tystare och modernare källa till fruktan.
Inte i den mening frågan antyder. System optimerar komponenter och hjälper till med utveckling; autonom själv-omdesign har inte inträffat.
The Unread ges först ut på engelska. Översatta utgåvor har ännu inte tillkännagivits.
Läsarregister
THE UNREAD är för närvarande endast tillgänglig på engelska, och översatta utgåvor har inte annonserats.