Na het verlaten van Gordonstoun begin 1939 voltooide Philip een termijn als cadet aan het Royal Naval College, Dartmouth, en keerde vervolgens terug naar Griekenland, waar hij midden 1939 een maand bij zijn moeder in Athene woonde. Op verzoek van de Griekse koning, George II (zijn neef), keerde hij in september terug naar Groot-Brittannië om de opleiding voor de Royal Navy te hervatten. Hij studeerde af aan Dartmouth het volgende jaar als de beste cadet in zijn cursus. Tijdens de Tweede Wereldoorlog bleef hij in de Britse strijdkrachten dienen, terwijl twee van zijn zwagerbroers, prins Christoph van Hessen en Berthold, markgraaf van Baden, aan de tegenovergestelde Duitse kant vochten. Philip werd in januari 1940 benoemd tot midshipman. Hij bracht vier maanden op het slagschip door, waarbij hij konvooien van de Australische expeditiemacht in de Indische Oceaan beschermde, gevolgd door kortere posten op, op en in Brits Ceylon. Na de invasie van Griekenland door Italië
In oktober 1940 werd hij overgeplaatst van de Indische Oceaan naar het slagschip in de Middellandse Zee-vloot.