The values that the A.I. has need to match ours, not just in the familiar context, like where we can easily check how the A.I. behaves, but also in all novel contexts that the A.I. might encounter in the indefinite future.
הערכים שיש לב"מ צריכים להתאים לשלנו, לא רק בהקשר המוכר, כמו איפה אנחנו יכולים לבדוק בקלות איך הב"מ מתנהגת, אלא גם בהקשרים הכי חדשים שהב"מ אולי תיתקל בהם בעתיד הלא בטוח.