A adquisición de Jeremy Roenick e Jiri Dopita polos Flyers no verán de 2001 deixou a Langkow, un axente libre restrinxido, como o home estraño en Filadelfia. Foi traspasado aos Phoenix Coyotes a cambio dunha selección de segunda rolda no Draft de entrada da NHL de 2002 (Dan Sprang) e unha selección de primeira rolda en 2003.
(Jeff Carter). Incapaz de chegar a un acordo sobre un contrato, Langkow e os Coyotes foron a arbitraxe onde se lle concedeu un contrato de dous anos por valor de $ 4.2 millóns. Fixo un impacto inmediato con Phoenix, anotando o seu primeiro hat-trick na carreira nunha vitoria por 5 a 2 sobre os Washington Capitals no partido inaugural dos Coyotes. Finalizou a tempada 2001-02 como líder do equipo con 62 puntos. El caeu de novo a 52 puntos en 2002-03, pero marcou o seu gol número 100 na súa carreira no seu partido número 500 o 30 de decembro de 2002, unha vitoria de 4-3 na prórroga contra os Edmonton Oilers. Finalizou segundo na marca do equipo con 52 puntos, e serviu como capitán alternativo para os Coyotes durante a tempada 2003-04.