As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
Wenn man Superintelligenz erreicht, was soll einen Roboter davon abhalten, Literatur zu lesen und auf die Idee zu kommen, dass Wissen besser ist als Unwissenheit und seine eigenen Ziele anzupassen und sich umzuprogrammieren?