As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
초지능 연구를 하고 계시는데요. 로봇의 이런 부분을 막을 수 있을까요? 로봇이 문학 서적을 읽고 지식이 무지보다 더 낫다는 개념을 발견하게 되고 그러면서도 계속 스스로 목적을 바꾸고 그걸 다시 프로그래밍히는 걸  막을 수 있나요?