বাহ্যিকভাবে উমর ও খালিদের সম্পর্ক শীতল হলেও তারা একে অন্যের প্রতি খারাপ মনোভাব পোষণ করতেন না। মৃত্যুর আগে খালিদ তার সম্পদ উমরের হাতে অর্পণ করে যান এবং উমরকে নিজ অসিয়তের বাস্তবায়নকারী মনোনীত করেছিলেন।

পদচ্যুতির চার বছর পর ৬৪২ সালে খালিদ মৃত্যুবরণ করেন। তাকে এমেসায় দাফন করা হয়। সামরিক দায়িত্ব থেকে অব্যাহতি পাওয়ার পর থেকে তিনি সেখানে বসবাস করছিলেন। তার মাজার বর্তমানে খালিদ বিন ওয়ালিদ মসজিদের অংশ। খালিদের কবরফলকে তার নেতৃত্বাধীনে জয় হওয়া ৫০টি যুদ্ধের নাম (ছোট যুদ্ধ ব্যতীত) উৎকীর্ণ রয়েছে। তিনি যুদ্ধে শহিদ হতে ইচ্ছুক ছিলেন তাই বাড়িতে মৃত্যুর পূর্বে তিনি বিমর্ষ হয়ে যান। মৃত্যুর পূর্বে তিনি বেদনা নিয়ে বলেন : 

এ কথা শুনে খালিদের স্ত্রী বলেন : "আপনাকে সাইফুল্লাহ (আল্লাহর তলোয়ার) উপাধি দেওয়া হয়েছে এবং আল্লাহর তলোয়ার ভাঙতে পারে না আর তাই আপনি শহিদ হিসেবে নয় বরং বিজয়ী হিসেবে মৃত্যুবরণ করবেন।"

আরব উপদ্বীপ বিজয়
উত্তর সিরিয়া জয়
উমরের যুগ (৬৩৪–৬৪২)
মৃত্যু