Backus käiskeskkoolis Philadelphiast umbes 50 km loode pool olevasPottstownis. Nähtavasti ei olnud ta usin õpilane. Ta õppis lühikest aegaVirginia ülikooliskeemiat, aga lahkus siis ülikoolist ja astusUSA sõjaväkke. Seal hakkas tameditsiini õppima, kuidsõjaväehaiglasdiagnoositi tal eneselkoljus luukasvaja. See õnnestus eemaldada ja selle asemele paigaldati talle koljusse plaadike. Ta lõpetas meditsiiniväljaõppe 9 kuud hiljem pärast uut operatsiooni, mille käigus see plaadike asendati tema enda väljatöötatud plaadiga.
1953 töötas taprogrammeerimise hõlbustamiseks väljaprogrammeerimiskeeleSpeedcoding, mis oli esimene IBM-i arvutil kasutatavkõrgtaseme keel. Programmeerimine oli endiselt keeruline ja1954 moodustas Backus töörühma, mis projekteeriks ja töötaks välja uue programmeerimiskeele arvutiIBM 704 jaoks. Selleks keeleks osutusFORTRAN. FORTRAN oli esimene kõrgtaseme keel, mis läks laiatarbekasutusse.
1963 pälvis Backus tiitliIBM Fellow, IBM-i kõrgeima auhinna, mida ta oma töötajale annab. IBM-i paarisajast tuhandest töötajast saab selle igal aastal 4–9 ja enne 1963. aastat seda välja ei antudki.