As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
En se rapprochant de la supra-intelligence, qu'est-ce qui empêchera un robot de lire la littérature et de découvrir cette notion que la connaissance est en fait supérieure à l'ignorance et de changer ses propres objectifs en réécrivant cette programmation ?