Kaupunki perustettiin 4. helmikuuta 1221 Vladimirin prinssi Juri II:n toimesta. Vuonna 1612 Kuzma Minin ja ruhtinas Dmitri Pozharski järjesttivät armeijan Moskovan vapauttamiseksi puolalaisilta. Vuonna 1817 Nizhny Novgorodista tuli Venäjän valtakunnan suuri kauppakeskus. Vuonna 1896 koko Venäjän näyttelyssä
oli organisoitu. Neuvostoliiton aikana kaupungista tuli tärkeä teollisuuskeskus. Erityisesti Gorkin autotehdas rakennettiin tänä aikana. Sen jälkeen kaupunki sai lempinimen "venäläinen Detroit". Toisen maailmansodan aikana Gorkiista tuli itärintaman suurin sotilaallisten laitteiden toimittaja. Tämän vuoksi Luftwaffe pommitti kaupunkia jatkuvasti ilmasta. Suurin osa saksalaisista pommeista putosi Gorkin autotehdasalueelle. Vaikka lähes kaikki tehtaan tuotantopaikat tuhoutuivat täysin, Gorkin asukkaat rakensivat tehtaan uudelleen 100 päivän kuluttua. Sodan jälkeen Gorkiista tuli suljettu kaupunki, ja se pysyi sellaisena Neuvostoliiton hajoamisen jälkeen vuonna 1991. Silloin kaupungin nimi muutettiin jälleen Nizhny Novgorodiksi. Vuonna 1985 Nizhny Novgorodin metro avattiin. Vuonna 2016 Vladimir Putin avasi uuden Almaz-Anteyn ilma- ja avaruuspuolustusyhtiön 70th Anniversary of Victory Plantin.