And this AI safety work has to include work on AI value alignment, because the real threat from AGI isn't malice, like in silly Hollywood movies, but competence -- AGI accomplishing goals that just aren't aligned with ours.
E o trabalho de segurança tem que incluir o alinhamento de valores da IA, porque a ameaça real da IAG não é malícia, como em filmes bobos de Hollywood, mas competência; a IAG cumprindo metas que simplesmente não estão alinhadas com as nossas.