Al comienzo de la contraofensiva soviética de 1943 de la Segunda Guerra Mundial, Vasilevsky coordinó y ejecutó las ofensivas del Ejército Rojo en el Don superior, en el Donbass, Crimea, Bielorrusia y los estados bálticos, terminando su guerra en Europa con la captura de Königsberg en abril de 1945. En julio de 1945 fue nombrado Comandante en Jefe de las fuerzas soviéticas en el Lejano Oriente. Él ejecutó el
Operación ofensiva estratégica de Manchuria (agosto de 1945) y posteriormente aceptó la rendición de Japón. Después de la guerra se convirtió en el Ministro de Defensa soviético de 1949 a 1953, cargo que ocupó hasta la muerte de Stalin en 1953. Con el ascenso de Nikita Khrushchev a la preeminencia a mediados de la década de 1950, Vasilevsky comenzó a perder poder y finalmente fue jubilado. Después de su muerte fue enterrado en la necrópolis del Muro del Kremlin en reconocimiento a su servicio pasado y contribuciones a su país.