উমরের সরকার এককেন্দ্রীক ব্যবস্থায় পরিচালিত হয়। এতে খলিফা ছিলেন সর্বোচ্চ রাজনৈতিক কর্তৃপক্ষ। পুরো সাম্রাজ্যকে কয়েকটি প্রদেশে বিভক্ত করা হয়। পাশাপাশি আজারবাইজান ও আর্মেনিয়া এসব অঞ্চলের কিছু স্বায়ত্তশাসিত এলাকা খিলাফতের সার্বভৌমত্ব স্বীকার করে নেয়। প্রদেশগুলো প্রাদেশিক গভর্নর বা ওয়ালি কর্তৃক শাসিত হত। উমর ব্যক্তিগতভাবে ওয়ালিদের নিযুক্ত করতেন। প্রদেশগুলোকে বিভিন্ন জেলায় বিভক্ত করা হত। পুরো সাম্রাজ্যে প্রায় ১০০ এর মতো জেলা ছিল। প্রতিটি জেলা বা প্রধান শহর একজন অধস্তন গভর্নর বা আমিলের দায়িত্বে থাকত। আমিলরা সাধারণত উমর কর্তৃক নিয়োগপ্রাপ্ত হতেন তবে প্রাদেশিক গভর্নররাও তাদের নিয়োগ দিতে পারতেন। প্রাদেশিক স্তরে অন্যান্য অফিসাররা ছিলেন :


অধিকাংশ ক্ষেত্রে ওয়ালি প্রদেশের সেনাবাহিনীর প্রধান সেনাপতি হিসেবে কর্মরত থাকলেও কিছু প্রদেশে পৃথক সামরিক অফিসার থাকত।
প্রতিটি নিয়োগ লিখিত আকারে দেওয়া হত। নিয়োগের সময় গভর্নরদের জন্য নির্দেশনা প্রদান করা হত। দায়িত্বগ্রহণের পর গভর্নররা জনতাকে প্রধান মসজিদে জড়ো করে তাদের সামনে নির্দেশনা পড়ে শোনাতেন।

কর্মকর্তাদের প্রতি উমরের সাধারণ নির্দেশনা ছিল :

এছাড়াও আরো কিছু বিধিনিষেধ গভর্নর ও রাষ্ট্রীয় কর্মকর্তাদের উপর জারি করা হয়। প্রধান কর্মকর্তাদেরকে হজ্জের সময় মক্কায় আসতে হত এবং এসময় জনগণ তাদের বিরুদ্ধে যে কোনো অভিযোগ তুলতে পারত। দুর্নীতি রোধ করার জন্য উমর তার কর্মকর্তাদের উচ্চ বেতন দিতেন। নিজ অঞ্চলে সেনাবাহিনীর সর্বোচ্চ প্রধান থাকাবস্থায় গণিমতের সম্পদ ছাড়াও গভর্নররা বার্ষিক পাঁচ থেকে সাতহাজার দিরহাম করে পেতেন।

উমরের অধীনে সাম্রাজ্যকে নিম্নোক্ত প্রদেশে বিভক্ত করা হয় :


রাষ্ট্রীয় কর্মকর্তাদের বিরুদ্ধে অভিযোগ তদন্তের জন্য উমর সর্বপ্রথম বিশেষ বিভাগ গঠন করেন। এই বিভাগ প্রশাসনিক আদালত হিসেবে কাজ করত এবং এর আইনি কর্মকাণ্ড উমর ব্যক্তিগতভাবে তদারক করতেন।
এই বিভাগ মুহাম্মদ ইবনে মাসলামার দায়িত্বে দেওয়া হয়। গুরুত্বপূর্ণ অভিযোগগুলোর ক্ষেত্রে তিনি ঘটনাস্থল, অভিযোগ তদন্ত ও পদক্ষেপ নেওয়ার ক্ষেত্রে উমরের সহায়তা করতেন। কিছু ক্ষেত্রে অনুসদ্ধান কমিটির সাথে তদন্তের বিষয়ে আলোচনা করা হত। ক্ষেত্রবিশেষে অভিযুক্ত কর্মকর্তাকে মদিনায় তলব করে আদালতের সম্মুখীন করা হত। উমর তার গোয়েন্দা বিভাগের সহায়তায় কর্মকর্তাদের জবাবদিহির আওতায় আনেন।

কিছু ক্ষেত্রে উমর পথপ্রদর্শকের ভূমিকা পালন করেছেন :


ইসলামের প্রতি সহিংসতা
রাজনৈতিক ও বেসামরিক প্রশাসন
মুহাম্মদ (সা) এর বিদায়
পরিবার