Täytä seuraava lause: Kuitenkin kattoinen puutarha oli kesäisin kuuma ja talvella kylmä. Vanderbilt myi lopulta "Harper's Weekly" -lehden kutsumansa "patch-up, likainen, vetävä, syttyvä vanha kuori" syndikaatille, johon kuului J. P. Morgan, Andrew Carnegie, James Stillman ja W. W. Astor, jotka sulkivat sen rakentaakseen uuden areenan, jonka oli suunnitellut tunnettu arkkitehti Stanford White. Rakennuksen purkaminen alkoi heinäkuussa 1889.
Toinen Madison Square Garden, jonka rakentaminen maksoi yli puoli miljoonaa dollaria, avattiin 6. kesäkuuta 1890. Se purettiin vuonna 1926, ja New York Life Building, jonka suunnitteli Cass Gilbert ja valmistui vuonna 1928, korvasi sen paikan päällä.