Baada ya kuhamia New York City alifundishwa awali kama fundi wa redio na alivutiwa na hisabati. Alihitimu kutoka Chuo Kikuu cha Columbia na shahada ya bachelor mwaka 1949 na shahada ya uzamili mwaka 1950, wote katika hisabati, na alijiunga na IBM mwaka 1950. Wakati wa miaka yake mitatu ya kwanza, alifanya kazi kwenye Selective Sequence Electronic Calculator (SSEC); mradi wake mkubwa wa kwanza ulikuwa kuandika programu ya kuhesabu nafasi za Mwezi. Mwaka 1953 Backus aliunda lugha ya Speedcoding, lugha ya kwanza ya kiwango cha juu iliyoundwa kwa kompyuta ya IBM, kusaidia katika maendeleo ya programu ya kompyuta ya IBM 701. Programu ilikuwa ngumu sana wakati huu, na mnamo 1954 Backus alikusanya timu ya kukuza na kufafanua Fortran kwa kompyuta ya IBM 704. Fortran ilikuwa lugha ya kwanza ya kiwango cha juu ya programu iliyotumika kwa upana Swali: Uthibitisho wake wa shule ni nini?
Chuo Kikuu cha Columbia na shahada ya bachelor mwaka 1949 na shahada ya uzamili mwaka 1950, wote katika hisabati