The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us.
Bekymret är att vi kommer att bygga maskiner som är så mycket mer kompetenta än vi att den minsta lilla skillnad mellan deras mål och våra skulle kunna förgöra oss.