The values that the A.I. has need to match ours, not just in the familiar context, like where we can easily check how the A.I. behaves, but also in all novel contexts that the A.I. might encounter in the indefinite future.
ค่านิยมที่เอไอมีจะต้องเทียบเท่ากับของเรา ไม่ใช่แค่ในบริบทเดิมๆ ที่เราสามารถตรวจสอบพฤติกรรมของมันได้ แต่ยังรวมถึงบริบทใหม่ๆ ที่เอไออาจจะเจอ ในอนาคตอันไม่สิ้นสุด