The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
החשש האמיתי הוא שנבנה מכונות שמוכשרות כל כך הרבה יותר מאיתנו, שהסטייה הקטנה ביותר  בין המטרות שלנו לשלהן עלולה להשמיד אותנו.