Anadolu`dan Cezayir`e gittikten bir süre sonra Cezayir Garp Ocağı`na girdi.Ali Paşa`nın ölümü üzerine dayı seçildi (Mart 1818).Osmanlı yönetimi de kendisine paşalık ve beylerbeylik vererek dayılığını onayladı.Kısa bir süre sonra yeniçerilerle anlaşmazlığa düşen ve iki kez suikaste uğrayan Hüseyin, yerlilerden muhafız birlikleri kurarak, yeniçerilere olan bağımlılığını azaltmaya çalıştı.Öte yandan ayaklanmaları bastırarak Osmanlı egemenliğini pekiştirmek için uğraştı ve düzeni yeniden sağlamayı başardı.Korsanlığı önlemediği gerekçesiyle 1819`da Cezayir kentini topa tutan İngiliz ve Fransız donanmalarına başarıyla karşı koydu.
Hüseyin dayı seçildiğinde, Fransa`nın Cezayir`e borcunu ödememesinden kaynaklanan anlaşmazlık sürüyordu.Fransa Dışişleri Bakanlığı`na bu konuda birkaç kez mektup yazan ama yanıt alamayan Hüseyin, 29 Nisan 1827`de, Fransız konsolosu Pierre Deval ile sert bir görüşme yaptı.Bu sırada öfkelenerek konsolosa yelpazesiyle birkaç kez vurdu.Bu olay Fransa`nın Cezayir`i denizden kuşatmasına (Haziran 1827) bir gerekçe oldu.Mısır valisi Kavalalı Mehmed Ali Paşa`nın arabuluculuğu da sonuç vermeyince Fransızlar Temmuz 1830`da Cezayir kenti yakınlarındaki Sidi Ferruh`ta karaya çıktılar.Fransızlara teslim olan ve Napoli`ye gitmesine izin verilen Hüseyin, yaşamının son yıllarını İskenderiye`de geçirdi.