As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
Ha elérjük a szuperintelligenciát, mi akadályozza meg a robotot abban, hogy az irodalmat olvasgatva arra a felismerésre jusson, hogy a tudás jobb, mint a tudatlanság, és ezért átírja a saját programját, hogy legyenek saját céljai?