A második világháború idején katonai szolgálatba vett Rooney majdnem két évig szórakoztatta a több mint kétmillió katonát a színpadon és a rádión, és bronz csillagot kapott a harci zónákban végzett fellépéseiért. 1945-ben visszatért, túl idős volt a fiatalkorúak számára, de túl alacsony a legtöbb felnőtt szerepe számára, és nem volt képes annyi főszerepet szerezni. Azonban számos alacsony költségvetésű, de kritikai szempontból jól fogadott noir filmben Rooney játszotta a főszerepet ebben az időszakban és az 1950-es években. Rooney népszerűsége megújult olyan filmekben, mint a "The Bold and the Brave" (1956), "Requiem for a Heavyweight" (1962), "It's a Mad, Mad, Mad, Mad World" (1963), "Pete's Dragon" (1977) és "The Black Stallion" (1979). A "The Bold and the Brave" és a "The Black Stallion" című filmekben játszott szerepe miatt Rooney Oscar-díjra jelölték a legjobb férfi mellékszereplő szerepért a
1957-ben és 1980-ban. A nyolcvanas évek elején visszatért a Broadwayre a Sugar Babies-ban, egy olyan szerepet, amely Tony-díjra és Drama Desk-díjra jelölték a legjobb színésznek egy zenei szerepen, és ismét ünnepelt sztár lett. Több száz alkalommal szerepelt a TV-ben, többek között drámákban, varieté műsorokban és talk show-kban.