Ao comezo da guerra, foi reasignado á Terceira División de Destructores da Frota do Báltico. Durante a evacuación da Armada Soviética
de Tallin a Kronstadt durante a Operación Barbarossa, o "Yakov Sverdlov" foi asignado como escolta ao buque insignia. Durante a operación, chocou contra unha mina e afundíuse preto do cabo Juminda o 28 de agosto de 1941. O naufraxio foi localizado e identificado o 16 de xuño de 2018.