1863 senesi sonlarında memuriyetlerinden istifa etti. Fransa, Prusya, İsveç, Danimarka, Hollanda ve Belçika devletlerinin başşehirlerini dolaştı. 1864’te Tunus’ta zuhur eden bir ihtilal üzerine, fevkalade memuriyetle İstanbul’a gönderildi. İstanbul’daki vazifesini yerine getirdikten sonra, tekrar Tunus’a gitti. Daha sonra tekrar Fransa, İngiltere, İtalya, Prusya ve Avusturya devletlerinin başşehirlerini dolaştı. 1871’de vezir-i mübaşir unvanıyla Tunus eyaleti borçlarının indirilmesi ve birleştirilmesi için teşkil olunan komisyon başkanlığına tayin edildi.
Tunus hükümetinin, İtalya’dan aldığı borcun ödenmesiyle ilgili çıkan ihtilafı arz etmek üzere İstanbul’a geldi. 1873’te Tunus’a döndü. 1878’de İstanbul’a davet edilerek vezirlik rütbesiyle Meclis-i ayan azalığına, daha sonra da yeni teşkil olunan Maliye Komisyonu reisliğine tayin olundu. 1878’de sadrazamlığa getirildi. Doksanüç Harbi denilen Osmanlı-Rus Harbi sonrasında sadarete getirilen Hayreddin Paşa, bu makamda 7 ay 26 gün kaldı. Padişahın yetkilerini yok sayması ve padişaha saygısızlık sayılabilecek bazı isteklerde bulunması sebebiyle, 1879’da sadaretten azledildi.
Hayreddin Paşa, Akvem-ül-Mesalih fi Marifeti Ahval-il-Memalik adlı bir eser yazdı. Ancak, İbnü’l-Kayyım el-Cevzi’nin bozuk fikirlerinden etkilenerek yazdığı bu eserinin basımı yasaklandı.
Hayreddin Paşa, tutulduğu nikris hastalığının şiddetlenmesi sonucunda 1890’da İstanbul’da vefat etti. Eyüpsultan’da Bostan İskelesinde hazırlanan kabre defnolundu. Mehmed Nuri, Mehmed Hadi, Mehmed Tahir, Mehmed Salih, Mahbube ve Behiye adlı altı evladı vardı.