The values that the A.I. has need to match ours, not just in the familiar context, like where we can easily check how the A.I. behaves, but also in all novel contexts that the A.I. might encounter in the indefinite future.
Sztuczna inteligencja musi wyznawać nasze wartości nie tylko w znanych sytuacjach, które możemy przewidzieć, ale też w nowych kontekstach, na które może się natknąć w niezdefiniowanej przyszłości.