Instead, we would create an A.I. that uses its intelligence to learn what we value, and its motivation system is constructed in such a way that it is motivated to pursue our values or to perform actions that it predicts we would approve of.
במקום, אנחנו צריכים ליצור ב"מ שמשמשת בבינה שלה כדי ללמוד מה אנחנו מעריכים, ומערכת המוטיבציה שלה מורכבת בדרך כזו שיש לה מוטיבציה לרדוף אחרי הערכים שלנו כדי לבצע פעולות שהיא צופה שנסכים להן.