1835 senesinde askeri alanda yetişmek üzere Viyana’ya gönderildi ve beş sene kaldıktan sonra miralay rütbesi ile İstanbul’a dönerek erkan-ı harbiye reisliğine tayin edildi. O zamanlar Avrupa’da eğitim ve tahsil görenlere fazla itibar edildiğinden, tanzimatçıların himayesine mazhar oldu ve kısa zamanda yüksek rütbelere kavuştu. 1846 senesinde feriklik rütbesi ile Dar-ı şura-yı askeri azalığına, bir sene sonra da Mekatib-i askeriye nezaretine getirildi. 1847 senesinde de devletin mevcud beş ordusuna ilave olarak kurulan ve merkezi Bağdad’da bulunan altıncı orduya müşir rütbesi ile komutan tayin edildi. Daha sonra Bağdad, Diyarbekir ve Erzurum valiliklerinde bulundu.
1851 senesinde sadrazam Ali Paşa tarafından birinci ordu komutanlığına getirildi. 1853’te Osmanlı-Rus savaşı başladığında Anadolu ordusu komutanı idi. Ordusu ile Gümrü’ye kadar ilerledi ise de, geri çekilince azl edilerek önce Selanik, sonra da Rumeli valiliğine tayin edildi. Valiliği sırasında bizzat askerin başında eşkıya takibine çıkarak asayişi sağlamak için büyük gayret gösterdi.
1876 senesinde İstanbul’a çağrılan Abdülkerim Paşa, önce Meclis-i ali üyeliğine, sonra bahriye nazırlığına tayin edildi. Dört ay sonra da Derviş Paşanın yerine serasker oldu. Mahmud Nedim Paşa hükumetinin düşmesi ile sadarete gelen Mütercim Rüşdi Paşa hükumetinde yerini Hüseyin Avni Paşaya bıraktı. Kendisi ise tekrar serdar-ı ekremliğe tayin edildi ve ortaya çıkan Bulgar isyanını bastırmak üzere Rumeli’ye gönderildi. Bulgar isyanını bastırdı. Ancak Rusya’nın müdahalesi ve Sırbistan’ın da ayaklanması Osmanlı Devletini zor durumda bıraktı. Sırp isyanını bastırmakla vazifelendirildi ve Sırpları mağlub etti. Ancak bir yabancı devletin müdahalesinin olabileceğini düşünen İstanbul hükumeti, buna meydan bırakmayıp serdar-ı ekrem Abdülkerim Paşaya derhal Belgrad üzerine yürümesi ve Sırpları barışa zorlaması konusunda emir verdi. Yaptığı muharebeler neticesinde Sırp kuvvetlerinin büyük kısmının toplandığı ve en çok güvendikleri Alesinatz mevkiini ele geçirince şöhreti bir kat daha arttı.
İkinci Abdülhamid Hanın ilk zamanlarında çıkan 1877 Osmanlı-Rus Harbinin başında, Rumeli’de serdar-ı ekrem olarak Abdülkerim Nadir Paşa bulunuyordu. Düşmanın Tuna’yı kolaylıkla geçip Türklerin buna engel olamayışı bütün dünyayı şaşırttı. Nadir Paşanın bu başarısızlığı izahı kabil olmayan ve askerlik bakımından savunulamayacak bir husustu. Bu sebepten Abdülhamid Han, serdar-ı ekremi divan-ı harbe sevk etti. Bunun üzerine önce Midilli ve daha sonra da Rodos’ta mecburi ikamete tabi tutuldu. 1883 senesinde Rodos’ta vefat etti.