The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
A preocupação é que construiremos máquinas que são muito mais competentes do que nós, e que a menor das divergências entre nosso propósito e o delas possa nos destruir.