Durante a Operación Bagration, a contraofensiva xeral en Bielorrusia, Vasilevsky coordinou as ofensivas da 1a Fronte Báltico e a 3a Fronte Bielorrusa. Cando as forzas soviéticas entraron nos estados bálticos, Vasilevsky asumiu a responsabilidade completa de todas as frontes bálticas, descartando a 3a Bielorrusia. O 29 de xullo de 1944, foi nomeado Héroe da Unión Soviética polos seus éxitos militares. En febreiro de 1945, Vasilevsky foi nomeado de novo comandante da 3a Fronte de Bielorrusia para liderar a Operación Prusia Oriental, deixando o cargo de Xefe de Estado Maior Xeral a Aleksei Antonov. Como comandante de fronte, Vasilevsky liderou a operación de Prusia Oriental e organizou os ataques a Königsberg e Pillau. Tamén negociou a rendición da guarnición de Königsberg co seu comandante, Otto Lasch. Despois da guerra, Lasch afirmou que Vasilevsky non respectou as garantías feitas durante a capitulación da cidade. De feito, Vasilevsky prometeu que os soldados alemáns non serían executados, que os prisioneiros, civís e feridos serían tratados con decencia e que todos os prisioneiros volverían a Alemaña despois do final da guerra. En cambio, Lasch permaneceu en prisión durante 10 anos e volveu a Alemaña só en 1955, como moitos dos soldados e oficiais da Wehrmacht, mentres que toda a poboación alemá foi expulsada de Prusia Oriental.
- Non. Polo brillante éxito en Königsberg e en Prusia Oriental, Vasilevsky foi galardoado coa súa segunda Orde da Vitoria.