Gibbons se narodil v Newarku v New Jersey a vyrůstal v Belleville v New Jersey. V roce 1942 absolvoval přípravnou školu svatého Benedikta. Sloužil v námořnictvu Spojených států od roku 1943 do roku 1946. Gibbonsová absolvovala College of the Holy Cross v roce 1947 s bakalářským titulem a Harvard Law School v roce 1950 s bakalářským titulem. Po ukončení studia se Gibbons připojil k firmě Crummy & Consodine. Po několika letech ve firmě byl jmenován partnerem a název firmy se změnil na Crummy, Consodine & Gibbons. V roce 1967 se Gibbons stal prezidentem advokátní komory státu New Jersey a také členem guvernérovy komise pro občanské nepokoje. Bylo to v době Newarkských nepokojů
které zanechalo 23 mrtvých a více než 1500 zatčených. Firma reagovala tím, že poslala auta plná právníků k soudním budovám, aby urychlila zpracování žádostí o kauci a snížila přeplněnost věznic. Společnost zastupovala mnohé z obviněných bezplatně.