Yezid b. Velid b. Abdülmelik ölmeden önce yerine kardeşi İbrahim’i veliaht tayin etmişti. Yezid'in vefatından sonra hilafete geçen İbrahim b. Velid b. Abdülmelik'e Şam'ın dışında hiçbir bölge biat etmemiş ve onu halife olarak tanımamıştır. İbrahim de ağabeyisi Yezid gibi iktidarını Kelb kabilesine dayandırmak istese de, ülke içerisinde önü alınamayan ayaklanmalar ve iç karışıklıklar buna engel olmuştur.

Ermenistan ve Azerbaycan valisi Mervan b. Muhammed, II. Velid b. Yezid b. Abdülmelik'in mirasçısının haklarını korumak bahanesiyle ayaklanarak Suriye üzerine yürüdü. Mervan 12 yıldan beri Kafkaslarda Hazarlarla mücadele etmekteydi ve yeterli askeri tecrübeye sahip olmuştu. Hatta ordusunu kabilelere bölerek başlarına askerlik mesleğinde uzmanlaşmış kişileri getirdi. Mervan b. Muhammed II. Velid'in katledilmesini lanetlemesine rağmen harekete geçmemiş ve uygun zamanı beklemiştir. Nitekim İbrahim’in halife olmasıyla beklediği anın geldiğini düşünen Mervan b. Muhammed isyan bayrağını açarak İbrahim'e karşı ayaklanmayı başlatmıştır.
Mervan Şam'a gelmeden önce Hişam b. Abdülmelik'in oğlu Süleyman’la mücadele etti. Yapılan savaşı kaybeden Süleyman ve kardeşi İbrahim hazineleri de yanına alarak Kelb kabilesinin merkezi olan Tedmür’e kaçtı. 127/744 tarihinde Şam'a giren Mervan b. Hakem'in torunu Mervan b. Muhammed halktan biat aldı ve İbrahim b. Velid b. Abdülmelik'in de biat etmesiyle Emevi devletinin son halifesi olarak/devlet başkanı olarak tarihteki yerini aldı.