The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
O problema é se construímos máquinas que são muito mais competentes que nós que à mínima divergência entre os seus objetivos e os nossos podem destruir-nos.