As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
Al llegar a la superinteligencia, ¿qué puede impedir que un robot lea literatura y descubra esta idea de que el conocimiento es mejor que la ignorancia, cambiando sus propios objetivos y reescribiendo su programación?