And it's really easy to accidentally give AI the wrong problem to solve, and often we don't realize that until something has actually gone wrong.
И на самом деле очень легко случайно поставить перед ИИ неправильную цель, даже того не осознавая, пока что-то не пойдёт не так.