Когда Халид ибн Саид вернулся в Медину из Йемена, халиф Абу Бакр послал его в Тейму. Прибыв туда, он начал мобилизацию мусульман в армию.

Обеспокоенные этим византийцы подняли против них своих арабских подданных гассанидов, кальбитов, танухитов, лахмитов и джузамитов.

Халид ибн Саид поставил об этом в известность Абу Бакра, который приказал ему выступить против них. Мусульмане перешел в наступление. Увидев их войска, противник бежал. Освобожденная территория была захвачена армией Халифата.

 Однако развивать успех и продолжать наступление Халид ибн Саид не стал, так как получил приказ Абу Бакра о том, чтобы он дождался подкреплений. Когда к нему на помощь пришли отряды под командованием Валида ибн Утбы и Икримы ибн Абу Джахля, они вступили в бой с византийскими войсками и разгромили их.

 Их командующий бежал в Дамаск, где он собрал силы и вновь выступил против преследующего его Халида ибн Саида, который, увидев явное превосходство сил противника, решил отступить. В 10 году хиджры халиф Абу Бакр послал в район боевых действий новые подкрепления. Первым командиром, начавшим широкомасштабное наступление на Шам был Йазид ибн Абу Суфьян, который возглавлял семитысячную армию.

В этой армии находился и Сухайл ибн Амр. После этого Абу Бакр послал туда и Муавию ибн Абу Суфьяна, который вошел в область Зуль-Марва и соединился с находившимися там войсками Халида ибн Саида. Сам Халид после этого был отозван обратно в Медину. Вторым командующим, посланным в этот регион, был Амр ибн аль-Ас.

Он выступил в направлении Палестины. В Иорданию двинулся Шурахбил ибн Хасана, а в Хомс — Абу Убайда Амир ибн аль-Джаррах.

 Узнав об этом, византийский император Ираклий срочно прибыл в Хомс и оттуда начал отправку на фронт своих войск.

 Общая численность византийских войск составила около 240 тысяч человек, в то время как мусульмане выставили против них всего около 20 тысяч бойцов, не считая шеститысячного отряда Икримы, который поддерживал их с тыла.

Опасаясь столкновения с многократно превосходящим их противником, командиры мусульманской армии пришли на совет к опытному Амру ибн аль-Асу, который счел нецелесообразным ведение боевых действий одновременно на нескольких направлениях.

Он предложил соединить все силы и выразил уверенность, что в этом случае мусульмане сумеют противостоять византийской армии.

Все собравшиеся согласились с этим и решили объединиться в местности возле реки удобна для них со стратегической точки зрения.

Обо всем этом они известили халифа Абу Бакра. К себе на помощь они позвали девятитысячную армию под командованием Халида ибн аль-Валида, который тогда еще находился в Ираке. Халид срочно выступил из Ирака.

 Ему пытались помешать Гассаниды, но ему удалось с боями прорваться к Ярмуку. Таким образом, мусульмане собрали перед решающим сражением 36-тысячную армию, которую возглавил Халид ибн аль-Валид.

 Среди воинов находилось более тысячи сподвижников Пророка и около ста участников битвы при Бадре. Когда сражение уже началось, из Медины пришло известие о смерти халифа Абу Бакра, которого сменил Умар.

Новый халиф распорядился сменить командующего армией в битве при Ярмуке. Вместо Халида ибн аль-Валида объединенную армию возглавил Абу Убайда.