And this AI safety work has to include work on AI value alignment, because the real threat from AGI isn't malice, like in silly Hollywood movies, but competence -- AGI accomplishing goals that just aren't aligned with ours.
И эта работа по безопасности ИИ должна включать и выравнивание ценностей, потому что реальная угроза от ИИ — это не зло, как показано в глупых голливудских фильмах, а способности — СИИ достигает целей, которые никак не согласуются с нашими.