كان خالد بن سعيد بن العاص، أحد قادة حروب الردة، معسكرًا بقواته فى تيماء شمالي الحجاز بأمر من الخليفة الذى ألزمه بالا يقاتل أحدًا إلا إذا قوتل، وقصد الخليفة بذلك أن يكون هذا الجيش احتياطيًا، يمد -عند الضرورة-القوات المحاربة فى جهات أخرى، وأن يراقب تحركات الروم؛ لأنه كان على يقين أنهم سوف يستغلون فرصة انشغاله بحروب الردة، ويكرروا عدوانهم
وحدث ما توقعه أبو بكر الصديق، فقد هجم الروم على جيش خالد، ومعهم القبائل العربية القاطنة فى الشام، وألحقوا به هزيمة قاسية، وقتلوا معظم جنوده، واستشهد ابنه فى المعركة، فلما وصلت أخبار الهزيمة إلى الخليفة أبي بكر جمع كبار الصحابة لدراسة الموقف، فاستقر رأيهم على ضرورة صد العدوان، وشرع أبو بكر فى حشد أربعة جيوش لتحقيق ذلك:-جيش بقيادة أبي عبيدة بن الجراح وجهه إلى حمص شمالي الشام.-وجيش بقيادة يزيد بن أبى سفيان، ووجهه إلى دمشق فى وسط الشام.-وجيش بقيادة شرحبيل بن حسنة، ووجهه إلى الأردن.-وجيش بقيادة عمرو بن العاص، ووجهه إلى فلسطين
وقال أبو بكر لقادة جيوشه: إذا عملتم منفردين، فكل واحد منكم أمير على من معه من قوات-وكان مع كل واحد منهم نحو ثمانية آلاف جندي-ثم أمير على المنطقة التي يفتحها، أما إذا ألجأتكم الظروف إلى الاجتماع فى مكان واحد، فالقائد العام أبو عبيدة بن الجراح تحرك القادة الأربعة بجيوشهم، فلما دخلوا جنوبي الشام، وجدوا جيشًا روميا، قوامه نحو 250 ألف جندي، بقيادة تذراق أخي هرقل، يساندهم نحو ستين ألفًا من العرب-تقريبًا-بقيادة جبلة بن الأيهم الغسانى، فلم يستطيعوا الالتحام مع هذه الجموع الحاشدة، فدارت بينهم مراسلات تجمعوا بعدها فى وادي اليرموك، تحت قيادة أبي عبيدة بن الجراح
لكن تجمعهم لم يؤدِ إلى تحريك للموقف ضد الروم، فأخبروا الخليفة أبا بكر بما هم فيه، وطلبوا المدد منه، فرأى أنه لن ينقذ الموقف فى الشام سوى خالد بن الوليد، وقال عبارته المشهورة والله لأُنسين الروم وساوس الشيطان بخالد بن الوليد، ثم كتب رسالة إليه: أما بعد فإذا جاءك كتابي هذا، فدع العراق، وخلف فيه أهله الذين قدمت عليهم وهم فيه وامضِ متخففًا فى أهل القوة من أصحابك الذين قدموا العراق معك من اليمامة، وصحبوك من الطريق، وقدموا عليك من الحجاز، حتى تأتى الشام، فتلقى أبا عبيدة بن الجراح ومن معه من المسلمين، فإذا التقيتم فأنت أمير الجماعة والسلام عليك
امتثل خالد لأوامر الخليفة، وسار من العراق فى سبعة آلاف جندي في واحدة من أجرأ المسيرات العسكرية فى التاريخ وأكثرها خطرًا، حيث قطعوا أكثر من ألف كيلو متر فى ثمانية عشر يومًا، فى صحراء قاحلة مهلكة، حتى وصلوا إلى وادي اليرموك فتسلم خالد بن الوليد القيادة من أبي عبيدة بن الجراح وخاض معركة مع الروم تُعد من أعظم المعارك وأبعدها أثرًا فى حركة الفتح الإسلامي، وسحق جيش الروم الذى كان يعد يومئذٍ أقوى جيوش العالم
بعد تولى عمر بن الخطاب الخلافة عزل خالد بن الوليد من قيادة جيوش الشام، وأعاد أبا عبيدة بن الجراح إليها، وجعل خالداً تحت قيادته، وقد قبل القائد البطل هذا التعديل دون تذمر، لأنه كان جنديًا يعمل للإسلام لا لمجده الشخصي، وإذا كان قد احتل المكان الأعلى بين قادة الفتوحات ببطولاته وانتصاراته، فإنه اعتلى ذروة أعلى بقبوله العزل ، وضرب أروع الأمثلة فى الانضباط والطاعة، وتلك أهم صفات القادة العظام
وكانت تعليمات عمر لأبي عبيدة بعد اليرموك، أن تعود الأمور إلى ما كانت عليه من قبل فى مطلع فتح الشام، حين رتب ذلك أبو بكر الصديق، فيسير أبو عبيدة ومعه خالد بن الوليد إلى حمص، ويزيد بن أبي سفيان إلى دمشق، وشرحبيل بن حسنة إلى الأردن، وعمرو بن العاص إلى فلسطين، وكل قائد يكون أميرًا على منطقته التي يفتحها، على أن يكون ذلك بعد أن يشتركوا جميعًا فى فتح دمشق. وبعد أن نجح القادة جميعهم فى فتح دمشق وأعطوا أهلها معاهدة صلح بقي يزيد بن أبي سفيان أميرًا عليها، فى حين اتجه القادة الباقون إلى مناطقهم، وفى خلال عامين فقط تم فتح الشام كله. وفى سنة 15 هـ جاء عمر ابن الخطاب إلى فلسطين؛ ليتسلم مفاتيح بيت المقدس من البطريرك صفرونيوس، وأعطى معاهدة لأهلها هي آية فى التسامح والعدل، أمنهم على عقائدهم وأموالهم وأنفسهم، وأخذت منهم نظير ذلك الجزية لرفضهم الدخول فى الإسلام
وقد رفض عمر بن الخطاب أن يصلى فى كنيسة القيامة، معللا ذلك بخوفه أن يأتي من المسلمين من يقول: لقد صلى عمر فى الكنيسة فهي من حقنا، وهذا ظلم للمعاهدين لا يقره عمر