The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
სინამდვილეში წუხილი იმაზეა, რომ ჩვენ ისეთ მანქანებს შევქმნით, რომლებიც ჩვენზე იმდენად უფრო კომპეტენტურები იქნებიან, რომ ჩვენსა და მათ მიზნებს შორის მცირედმა უთანხმოებამაც კი შეიძლება გაგვანადგუროს.