1835 senesinde sefaret ikinci katibi olarak Viyana’ya gitti ve bir buçuk sene burada kalarak diplomatlık mesleğini öğrendi. Âli’nin bundan sonra icraatlarında buradayken kapıldığı Avrupai fikirlerin etkisi daimi olarak görüldü. 1837’de divan-ı hümayun tercümanı oldu. 1838’te Reşid Paşa Londra elçiliği ile vazifelendirilince, Âli Efendi’yi de sefaret müsteşarı olarak yanında götürdü. Reşid Paşa 1846’da sadrazam olunca kendisiyle aynı fikirleri paylaşan Âli Efendiyi hariciye nazırı yaptı.
Bu dönemde Reşid Paşa vasıtasıyla mason olan Âli Paşaya 1848’de vezirlik ve müşirlik rütbesi verildi. 1852’de Reşid Paşa görevden azledilince yerine Âli Paşa getirildi. Bu menfaat çatışmaları üzerine iki paşanın arası açıldı. Aynı yıl mukaddes makamlar meselesi yüzünden azledilen Âli Paşa, İzmir valiliğine tayin edildi. Kırım savaşı sonunda toplanan Viyana konferansına Osmanlı delegesi olarak katılan Âli Paşa, Mustafa Reşid Paşanın 1855’te dördüncü sadaretinden istifa etmesi üzerine ikinci defa bu makama getirildi. Bu sadareti sırasında Osmanlı Devleti’nin başına büyük gaileler açacak olan ve gayr-i müslimlerdeki istiklal ateşini körükleyen Islahat Fermanı’nı yürürlüğe koydu (1856). Bu ferman yayınlandığında, Fransız elçisi bile; “Osmanlı Devleti’nin bu kadar fedakarlıkta bulunacağını hiç ummuyorduk” diyerek hayretini ifade etmiştir. Mason Mustafa Reşid Paşa bile bu kadarına dayanamayarak, bu fermanın hainler tarafından Avrupa’ya verilen memleketi tahrip vasıtası olduğunu belirten bir raporu Abdülmecid Han’a sunmuştur (bkz. Islahat Fermanı). Nitekim fermanın ilanı üzerinden henüz bir yıl geçmeden ülkenin dört bir yanında isyanların patlak vermesi üzerine istifa etmek zorunda kaldı.
Bundan sonra, birbirlerine düşmanlık gösterilerinde bulunan, ancak Osmanlıyı batının kuklası yapmak gayesinde birleşen Mustafa Reşid ile Âli Paşa, oturdukları koltuğu nöbetleşe doldurarak devletin bu en önemli mevkiini ellerinde tuttular. Âli Paşanın bilhassa beşinci sadareti döneminde (1867) Belgrad’ı Sırplara teslim etmesi ve Girit’e hıyanet derecesine varan imtiyazları, ıslahat adı altında gerçekleştirerek adanın elden çıkmasına sebep olması, aleyhinde büyük bir infialin doğmasına sebep oldu. Âli Paşa 1871 senesi Eylül’ünün yedisinde Bebek’te bulunan yalısında öldü.
Âli Paşa, hırslı ve kaprisli bir adamdı. Tenkit edilmekten hoşlanmazdı. Rakiplerine karşı acımasızdı. Mevkiini muhafazada aşırı derecede hassasiyet gösterir, bu sebeple padişahın huzurunda bulunurken kan-ter içerisinde kalır ve konuşurken elleri ayakları titrerdi. Cevdet Paşa’nın bildirdiği gibi hariciye nezaretinde devlete sadık olan memurları azlederek yerlerine devlete düşman olan Ermenileri tayin etmesi onun mevkiine ne kadar düşkün olduğunu gösterir. Yedi sene hariciye nezaretine, beş defa da sadarete geldi. Sekiz sene üç ay on dokuz gün sadarette kaldı.