Murphy sa narodil v okrese Westchester v štáte New York a 10. augusta 1841 bol vymenovaný za midshipmana. Slúžil počas vojny s Mexikom v Vera Cruze.
a Tabasco na palube. Dňa 10. mája 1852 odstúpil z pozície midshipmana, po jeho poslednej misii ako asistent pri prieskumnom prieskumovaní Istmu Tehuantepeku Johnom G. Barnardom. Prešiel do súkromného sektora, kde pracoval ako prvý dôstojník na linke parných lodí Collins, mestský prieskumník pre mesto New York, hlavný inžinier Brooklynskej námornej stavby a nakoniec ako člen senátu štátu New York (4th D.) v rokoch 1860 a 1861.