Defterhane kaleminde göreve başladı.Keskin zekası ve kabiliyeti sayesinde kendini yetiştiren Ragıb Mehmed Efendi, kısa zamanda şöhret kazandı. İran’da yeni fethedilen toprakların tahriri için 1724’te revan Valisi Ârifi Paşanın Mektupçuluğuna tayin edildi. 1724’ten 1733 tarihine kadar, Tebriz Seraskeri Köprülüzade Abdullah Paşanın maiyetinde Ordu-yı Hümayun Riyaseti, Tebriz Defter Emaneti vekilliği, Revan Defterdarlığı, Hemedan riyaset Vakaleti, Bağdad Defterdarlığı, İran-Safevi Şahı Nadir ile yapılan müzakerelerde Osmanlı Temsilcisi gibi vazifelerde bulundu.
1733’te İstanbul’a çağrılarak maliye tezkireciliğine tayin edildi. 1736’da önce Erzurum Seraskerinin maiyetinde Ordu Defterdarı ve Reisülküttablığı Vekilliğine, sonra da İran meselesinin iç yüzünü bildiğinden Nadir Şahın İstanbul’a gönderdiği elçilerle yapılan müzakerelere katılarak, Cizye Muhasebeciliği ile vazifelendirildi. 1737’de Sadrazam Mektupçuluğuna tayin edildi. Avusturya-Rusya temsilcileri ile görüşme yapan heyette vazife aldı. 1739’da Belgrad Seferi ve Antlaşmasında hizmetleri oldu. Doğu ve Batı devletleri ile yapılan müzakerelerde gösterdiği muvaffakiyet üzerine 1741’de Reisülküttab tayin edildi. Bugünkü Dışişleri Bakanlığı mahiyetinde olan Reisülküttablıkta üç yıl başkanlık yapan Koca Ragıb Paşa, 1744’te vezirlik payesiyle Mısır Valiliğine getirildi. Mısır Valiliği ardından 1748’de Kubbe Vezirliği ve Nişancılık ile İstanbul’a çağrılıp Aydın Muhassıllığı verildi. 11 Aralık 1756’da Vezir-i azam tayin edilinceye kadar; Sayda, Rakka ve Halep valiliklerinde bulundu.
Koca Ragıb Mehmed Paşa, Osmanlı Sultanlarından Üçüncü Osman Han (1754-1757) ve Üçüncü Mustafa Han (1757-1773) devirlerinde altı yıl Vezir-i azamlık yaptı. 1758’de Sultan Mustafa Hanın kızkardeşi Saliha Sultan ile evlenen Paşa, Osmanlı Sarayına damat oldu. Vezir-i azamlığı sırasında Sakarya-İzmit Kanalı projesi, harb gemileri ve Laleli Cami inşası, yeni top dökümü ve orduda ıslahatlar yapıldı. Maliyeyi ıslah etti. Bu devirde Avrupa siyasi hadiseler ile çalkalanırken Osmanlı Devletini bunlardan uzak tuttu. Fransa ile İsveç’in müttefiki Prusya’nın Avusturya ve Rusya’ya karşı ittifak teklifi, Osmanlı Devletinin durumu dikkate alınarak oyalandı. Avrupa devletleri arasında (1756-1763) tarihleri arasında devam eden Yedi Sene Harbinde Osmanlı Devletini savaşın dışında tuttu. Vefatından sonra Osmanlı Devleti Rusya dahil diğer Avrupa devletleriyle harp içine girdi.
8 Nisan 1763’te vefat eden Koca Ragıb Mehmed Paşanın kabri İstanbul Laleli’de yaptırdığı kütüphanesinin bahçesindeki türbededir. Koca Ragıb Mehmed Paşa; idari ve devlet işlerinde sabırlı, temkinli ve çok dikkatli idi. İleri görüşlü olup, işlerini tam yapar ve herkese iyi muamele ederdi. Dünya siyasetinin çok karışık bir devrinde vazife almasına rağmen, uzun zaman vezir-i azamlık vazifesinde kalması, kendini padişahlara, devlet adamlarına ve ahaliye sevdirmesi iyi bir idareci olduğunu gösterir. Olgun, zeki, ilim, fazilet ve siyaset sahibi idi. İyi bir tahsil gördüğünden ilmi çok olup, şairliği ve edipliği de vardı. Nedim ve Şeyh Galip’ten sonra 18. asrın en önemli şairidir. Şiirleri sağlam ve ahenkli bir nazma, ağır başlı seçkin ve açık bir söyleyişe, insanı düşünce yoluyla saran hikmetli bir muhteva özelliğine sahiptirler. Şiirlerinin toplandığı Divan; diplomasi, siyasi ve sosyal mevzuları ihtiva eden Münşeat ve Tahkik ve Tevfik; Arapça Sefinetü’r-Ragıb ile Arapça, Farsça ve Türkçe üç dilde birçok manzum ve nesir yazılarını ihtiva eden Mecmua adlı eserleri vardır. Bunlarda Tahkik ve Tifik devrindeki Osmanlı-İran münasebetlerini anlatan tarihi değeri olan bir eserdir.
Şiirlerinden bir örnek:
Dil-hastelerün bilmedi sıhhat neye derler Daru-yı ifakatla inayet neye derler
Ser-tabe-kadem gül gibi ol guş-i hakikat Bülbülden işit naliş-i hasret neye derler
Hem sinesi pür-dağ u hem avazesi muhrik Neyden bilinir suz-ı mahabbet neye derler
Açıklaması: Gönlü hasta aşıklar, sağlığın ne olduğunu ve iyileşme ilacının ne olacağını bilmediler. Baştan ayağa kadar gül gibi gerçeğin kulağı ol da, hasret feryadının ne olduğunu bülbülden işit. Yanıp yakılmanın ne olduğunu göğsü yaralarla delik delik olan ve yanık sesli neye bakarak anla.