1111 ve 1113 senelerinde Emir Mevdud’un Haçlılar üzerine tertip ettiği seferlere katıldı. Taberiye Muhasarasında büyük bir kahramanlık göstererek Mevdud’un itimadını kazandı. Mevdud’un ölümünden sonra Musul’a tayin olunan Aksungur Porsuki tarafından, Aşağı Irak bölgesinde Selçuklu hakimiyetini tesis için Vasıt’a gönderildi. Abbasi Halifesi El-Müsterşid-billah’a karşı isyan eden Hille Emiri Dübeys bin Sadaka’nın kuvvetlerini bozguna uğrattı. Bu başarısı üzerine Vasıt ve Basra kendisine ıkta olarak verildi. Irak Selçuklu Sultanı Mahmud 1118-1131 yılında İmadeddin Zengi’yi oğlu Alparslan’ın atabegliği vazifesi ile beraber Musul valiliğine tayin etti (1127). Atabeg Zengi, aynı yıl Halep’i aldı.
Bu sırada Haçlılar, Akdeniz’in Suriye sahilini tamamen ele geçirmişlerdi. Şam’dan, Rakka ve Rahbe’ye uzanan yoldan başka bütün ticari yollar kesilmişti. Haçlılar ile uzun yıllar mücadele eden Dımaşk Atabeği Tuğtegin’in ölümü, Müslümanları büyük bir liderden mahrum bırakmıştı. Bu boşluğu doldurmak isteyen Atabeg İmadeddin Zengi, Haçlıların elindeki Barin Kalesi üzerine yürüdü. Yardıma gelen Kudüs Kralı Fulk’u ağır bir yenilgiye uğrattı. Trablus Kontu Raymond ve birçok şövalyeyi esir aldı. Durumun ümitsizliğini gören Barin Kalesi müdafileri kaleyi teslim ettiler. Zengi’nin bu faaliyetleri üzerine Bizans İmparatoru İkinci Yohannes, Antakya önlerine kadar geldi. Bölgedeki Haçlı kuvvetleriyle birleşerek Buzaa, Kefertab ve Esarib kalelerini zaptetti. Ancak Halep ve Şeyzer kalelerini kuşatmalarından bir netice elde edemediler. Bu sırada Haçlı komutanlarıyla anlaşmazlığa düşen Bizans İmparatoru, Suriye’den çekildi. Bu fırsatı kaçırmayan Atabeg Zengi, Antakya kontluğu topraklarına girerek kaybettiği yerleri tekrar kazandı.
Kuzey Irak, Suriye ve El-Cezire bölgelerini fetheden Musul Atabegi, 1140 yılında Irak Selçuklu Sultanı Mes’ud’un emri üzerine Haçlıların elindeki Urfa üzerine yürüdü. Üç piskopos tarafından korunan ve Haçlılar için fevkalade önemli olan bu kaleyi kısa bir sürede fethettikten sonra, komutanlarından Ali Küçük’ü buraya vali tayin etti. Ondan şehri imar etmesini ve herkese adaletli davranmasını emretti. 1146 yılında Caber Kalesini kuşatan İmadeddin Zengi, 14 Eylül gecesi kendi hizmetkarları tarafından uyurken öldürüldü. Rakka’da, Sıffin şehitleri yanına defnedildi.
İmadeddin Zengi, idari işlerde titiz, siyasi ve askeri kabiliyeti yüksek bir zattı. Haçlılarla yılmak bilmeyen mücadelesi, Barin ve Urfa’yı fethetmesi ile Müslümanların büyük bir kahramanı oldu. Bu, Haçlıların bölgede ilk mağlubiyetiydi. Musul ve Halep’te kurduğu hanedanın, Halep’teki kolu Eyyubilerin hakimiyetini kabul etmesine, Musul’daki kolu da Moğolların istilasına kadar devam etti.