As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
ونحن نتجه نحو الذكاء الخارق، ما الذي سيمنع الروبوت من القراءةِ والتعلّمِ بأنّ المعرفةَ أفضلُ من الجهلِ وتظل في المقابل تحيد عن أهدافها الشخصية وتعيد صياغة تلك البرمجة؟