Heller fæddist 1. maí 1923 í Coney Island í Brooklyn í New York, sonur fátækra gyðinga, Lena og Isaac Donald Heller frá Rússlandi. Þegar hann var unglingur skrifaði hann sögu um innrás Rússa í Finnland.
og sendi hana til New York Daily News sem hafnaði henni. Eftir að hafa útskrifast frá Abraham Lincoln High School árið 1941 vann Heller næsta ár sem smíðakennari, sendiboði og skjalaskrifa.