When the Federal Government moved to Philadelphia for a ten-year period before finally settling in Washington, D.C., Osgood chose to remain in New York and resigned his post in 1791.
Als man sich jedoch entschloss, kurze Zeit später die Bundesregierung nach Philadelphia zu verlagern, bevor sie dann zehn Jahre später endgültig in Washington, D.C. ihren Sitz finden sollte, entschloss sich Osgood zu bleiben und trat 1791 von seinem Posten zurück.