The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
ความกังวลจริง ๆ ก็คือ  เราจะสร้างจักรกล ที่มีความสามารถที่สูงกว่าเรามาก ๆ ที่ความแตกต่างเพียงเล็กน้อยระหว่าง เป้าหมายของมันกับของเราเอง ก็อาจจะทำลายเราได้