Albert Gallatin, Bộ trưởng Ngân khố Hoa Kỳ dưới thời Thomas Jefferson và James Madison, tuyên bố rằng ông có ý định sẽ thành lập "trong thành phố rộng lớn và phát triển nhanh này... một hệ thống giáo dục dựa trên lý trí và có tính thực tiễn phù hợp với tất cả và cũng sẽ rộng cửa chào đón tất cả mọi người". Một "hội nghị văn chương và khoa học" kéo dài ba ngày đã được tổ chức tại hội trường thành phố vào năm 1830 với sự tham dự của trên 100 đại biểu tranh luận về các điều khoản của dự thảo thành lập một trường đại học mới. Những người New York này tin rằng thành phố cần một trường đại học được thiết kế dành cho những thanh niên trẻ, họ sẽ được nhận vào dựa theo năng lực chứ không phải do quyền lực dòng họ, địa vị hay tầng lớp xã hội. Ngày 18 tháng 4 năm 1831, một cơ sở được hình thành, với sự hỗ trợ của một nhóm cư dân thành phố New York xuất chúng sở hữu nhiều đất đai như các nhà buôn, chủ ngân hàng và các thương gia. Albert Gallatin được bầu làm Chủ tịch đầu tiên của trường này. Vào ngày 21 tháng 4 năm 1831, cơ sở giáo dục mới này nhận được giấy phép và được hợp nhất thành Đại học thành phố New York bởi Cơ quan lập pháp bang New York; các tài liệu cũ thường gọi NYU với tên này. Tuy vậy, tên gọi Đại học New York ngay từ đầu đã phổ biến hơn và trường được chính thức đổi tên thành Đại học New York vào năm 1896. Năm 1832, NYU mở các lớp học đầu tiên tại các phòng học thuê của Hội trường Clinton, toạ lạc gần Hội trường Thành phố. Năm 1835, Trường Luật, trường trực thuộc chuyên nghiệp đầu tiên của NYU, được thành lập. Mặc dù quyết tâm thành lập trường phần nào là sự đáp lại của Giáo hội Trưởng nhiệm Tin Lành với cái họ coi là giáo phái Tân giáo của Đại học Columbia, nhưng cuối cùng, NYU không theo giáo phái nào cả, khác với hầu hết các trường đại học Mỹ đương thời.