En 1700 uníuse ao exército ruso no seu ataque a Narva ao estoupido da Gran Guerra do Norte, pero o rei Carlos XII de Suecia expulsou-o da súa posición en Estonia. Despois converteuse en comandante das forzas rusas que loitaron contra os exércitos suecos nas provincias bálticas. O coronel W. A. Schlippenbach derrotou a Sheremetev en Rauge en setembro de 1701, pero os rusos viraron as táboas en Schlippenbach (agora un xeneral de división) en Erastfer
en decembro de 1701. Esta vitoria gañou a Sheremetev o título de mariscal de campo, e outra vitoria rusa seguiu na batalla de Hummelshof en xullo de 1702. O ataque do exército de Sheremetev a Marienburg (agosto de 1702) levou a Martha Skavronskaya á corte do tsar, onde finalmente se converteu na emperatriz Catalina I (reinou 1725-1727).