Po opuszczeniu Gordonstoun na początku 1939 roku Filip ukończył kadetkę w Royal Naval College, Dartmouth, a następnie repatriował do Grecji, mieszkając z matką w Atenach przez miesiąc w połowie 1939 roku. Na polecenie króla Grecji, Jerzego II (jego kuzynka), wrócił do Wielkiej Brytanii we wrześniu, aby wznowić szkolenie dla Royal Navy. W następnym roku ukończył Dartmouth jako najlepszy kadet w swoim kursie. Podczas II wojny światowej nadal służył w siłach brytyjskich, podczas gdy dwaj jego szwagierzy, książę Christoph z Hesji i Berthold, markgraf Badenii, walczyli po przeciwnej stronie Niemiec. W styczniu 1940 roku został mianowany kadetem. Spędził cztery miesiące na pancerniku, chroniąc konwoje australijskiego oddziału ekspedycyjnego na Oceanie Indyjskim, a następnie krótsze staże na brytyjskim Cejlonie. Po inwazji Włoch na Grecję
W październiku 1940 roku został przeniesiony z Oceanu Indyjskiego na okręt bitwy w Flocie Śródziemnomorskiej.