As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
Ao chegar à superinteligência, o que irá impedir um robô de ler literatura e descobrir que o conhecimento é melhor que a ignorância e ainda mudar seus próprios objetivos e reescrever essa programação?