بدأ حياته بزواجه من رفيقته وفاء عبد الغنى والتى رحلت فى 20-11-1979 بعد صراع طويل مع مرض الفشل الكلوى, وقد أنجبت له (مدحت – ماجدة – مها- وحيد- أمين- منى) ولديه من الأحفاد (أحمد- محمد- ألاء – شيماء – شريف)، وتأتى أهميتهم فى حياة الجمسى حيث أهدى لهم كتابه عن حرب أكتوبر 1973، ورحل المشير الجمسى فى صمت بعد معاناة مع المرض، وصعدت روحه إلى ربه فى 7 يونيو 2003 عن عمر يناهز 82 عاما، عاش خلالها حياة حافلة.