As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
Quando giungi alla super intelligenza, cosa fermerà un robot dal leggere letteratura e scoprire l'idea che la conoscenza sia migliore dell'ignoranza, e lo indurrà a spostare le sue finalità e riscrivere la programmazione?