Podľa tradície majú Umajjovci (známi aj ako Banu Abd-Šams) a islamský prorok Mohamed spoločného predka Abd Manafa ibn Kusaj. Mohamed pochádzal z Abd Munafa prostredníctvom jeho syna Hašima, Umajjovci pochádzali z Abd Munafa prostredníctvom iného syna, Abd-Šamsa. Tieto dva rody sa preto považujú za rôzne klany (Hašimov a Umajjov) toho istého arabského kmeňa (kmeňa Kurajšovcov).
Umajjovci a hášimovci boli úhlavnými rivalmi. Súperenie pramenilo z počiatočného odporu Abú Sufjána ibn Harba, Umajjovho vnuka, voči Mohamedovi a islamu. Snažil sa zbaviť nového náboženstva vedením série bojov. Nakoniec však prijal islam, rovnako ako jeho syn (budúci kalif Muávija I.), a obaja poskytli veľmi potrebné politické a diplomatické schopnosti pre riadenie rýchlo sa rozširujúcej islamskej ríše.
Počiatky umajjovskej vlády siahajú do roku 656, keď bol zavraždený Uthmán. Vtedy sa kalifom stal Ali, člen klanu Hašimovcov a bratranec proroka Mohameda. Čoskoro sa stretol s odporom viacerých frakcií a presunul svoje hlavné mesto z Mediny do Kúfy. Výsledný konflikt, ktorý trval od roku 656 do roku 661, je známy ako prvá fitna ("čas skúšky").
Proti Alimu sa najprv postavila aliancia vedená Aišou, vdovou po Mohamedovi, a Talhahom a Al-Zubajrom, dvoma spoločníkmi proroka. Obe strany sa stretli v bitke pri ťave v roku 656, kde Alí zvíťazil s rozhodujúcim náskokom.
Keď bol Alí v roku 661 zavraždený, Muávija sa vydal na pochod do Kúfy. Tam presvedčil niekoľko Aliho stúpencov, aby ho prijali za kalifa namiesto Aliho syna Hasana. Potom presunul hlavné mesto kalifátu do Damasku. Sýria zostane základňou umajjovskej moci až do konca dynastie.