Normal öğreniminden sonra Babıali’de Sadaret Mektubi Kaleminde vazifeye başladı. Devletin çeşitli kademelerinde çalışarak, 1847’de Sadaret ve aynı yıl Hariciye Müsteşarı oldu. 1855’te Sayda ve Şam, 1856’da İzmir valiliklerinde bulunduktan sonra, 1858’de Tanzimat Meclisi üyesi oldu. Bundan iki sene sonra kendi isteği ile Trablusgarp Valiliğine getirildi. Burada yedi sene valilikten sonra saraya yanaşmanın çarelerini arayan Mahmud Nedim Paşa, önce Bahriye Nazırlığına, Âli Paşanın ölümü üzerine, Sadrazamlığa getirildi (1871). Önceleri Âli Paşaya karşı duyduğu kinini onun adamlarını vazifeden alıp, başka yerlere tayin etmekle açığa çıkardı. Bu arada, Hüseyin Avni Paşayı Isparta’ya sürdürerek, ileride şehit edilecek olan Sultan Abdülaziz Hanın başına gelecek hadiselerin tohumunu attı. O günkü şartlarda her zamankinden daha fazla Avrupa devletlerine duyulması icab eden yakınlık, onun Rusya tarafını tutması ile yalnızlığa döndü. Rus elçisinin bütün isteklerinin Sadrazam tarafından eksiksiz yerine getirilmesi, kendisinin halk arasında “Nedimof” gibi küçültücü bir lakapla anılmasına yol açtı.
On bir ay süren Sadrazamlığı sırasında, beş serasker, dört bahriye, dört adliye, beş maliye nazırı, altı tophane müşiri, beş sadaret, altı serasker müsteşarı, sayılamayacak kadar vali ve taşra memurlarını değiştirmesi, devlet işlerini karıştırması bakımından dikkat çekici hususlardır. Valiliklerin ödeneklerini kesmesi, lüzumsuz yeni valilikler kurarak idareyi karıştırması, 1872’de görevinden alınarak Kastamonu Valiliğine gönderilmesine sebep oldu. Adana Valiliğinde de bulunduktan sonra İstanbul’a getirtilerek önce Şura-yı Devlet (Danıştay) başkanlığına, ardından 1875’te ikinci defa sadrazamlığa getirildi. Hersek isyanına, Sırbistan ve Bulgaristan’daki ayaklanmalara mani olamayan Mahmud Nedim Paşa, bütçe açığını kapamak için aldığı tedbirlerle işleri büsbütün karıştırdı. Rus elçisinin telkinlerine kapılarak Bulgaristan İhtilaline karşı askeri tedbir almaması, Balkanlardaki çeşitli hadiseler, büyük devletlerin müdahale etmesine zemin hazırladı. Can düşmanı gibi olan Hüseyin Avni ve Midhat Paşaların talebeyi nümayişe kışkırtmaları, Bosna-Hersek isyanlarındaki başarısızlıkları, mali krizin artması sebepleriyle, 12 Nisan 1876’da vazifeden alındı. Çeşme, Sakız’da ikamete memur edildikten sonra, Sultan İkinci Abdülhamid Han zamanında affedilerek İstanbul’a döndü. 1879’da Dahiliye nazırlığına getirilince, eskisinin aksine halka ve memurlara çok iyi davrandı. Fakat hastalandığı için bu vazifeden alındı. 14 Mayıs 1884’te öldü. Cağaloğlu’ndaki bir arsaya gömülerek, sonra üzerine türbesi yapıldı.
Mahmud Nedim Paşa, Tanzimat devrinde yetişen şair ve yazarlardandır. Şiirlerini topladığı Divan’ı ile Reddiye adlı risalesi basılmadı. Hikaye-i Meliki Muzaffer, devlet idaresine ait Âyine ve nazım olan Hasbihal adlı eserleri yayınlanmıştır.