Üçüncü Selim Hanın (1789-1808) hükümdarlığı zamanında Başçuhadarlığa getirildi. 11 Mart 1792’de vezirlik rütbesiyle Kaptan-ı derya oldu. Akdeniz’e sefere çıkıp, adaların durumunu düzeltti. Mısır’ın Fransızlardan kurtarılmasında büyük hizmeti oldu. Sultan Selim Hanın takdirini kazandı. Tersaneleri genişletip modernleştirdi. Büyük gemiler inşa ettirdi.
Damad Küçük Hüseyin Paşa, 7 Aralık 1803’te vefatına kadar on iki yıla yakın Türk donanmasında kaptan paşalık yaptı. Hüseyin Paşa ölünce, hazret-i Ebu Eyyub-ı Ensari’nin kabri civarına defnedildi.