Belgrad Seferine, kapıağası rütbesiyle katıldı. Rodos Seferinde hasodabaşı ve içşahincilerbaşı sıfatlarıyla padişahın yanında bulundu. 1523’te Piri Mehmed Paşanın görevden alınmasıyla, sadrazamlığa tayin edildi. Ayrıca bu vazifesine ilaveten Rumeli beylerbeyliği de verildi. Sadrazam olduktan sonra isyan eden Mısır Beylerbeyi Hain Ahmed Paşayı cezalandırmak üzere Mısır’a giden İbrahim Paşa, geçtiği yerlerde gördüğü bozuklukları yoluna koydu. Mısır’da kaldığı sürede esaslı idari ve mali ıslahatlar yaptı. Ancak aleyhindeki hareketler sebebiyle Padişah tarafından geri çağrıldı ve 1525 sonbaharında İstanbul’a döndü.
1526’da Macaristan Seferine serdar tayin edildi. Öncü kuvvetlerin başında sefere çıkan İbrahim Paşa, yol üzerindeki Petervaradin ve Uylak kalelerini fethetti. Mohaç Meydan Savaşında, Osmanlı ordusunun sağ kanadına kumanda etti ve zaferin kazanılmasında önemli rol oynadı.
Mohaç Zaferinden sonra, Anadolu’daki isyanları önlemek üzere harekete geçen İbrahim Paşa, Hacı Bektaş-ı Veli’nin soyundan olduğunu iddia eden ve Anadolu’da sapık inançlarını yaymak isteyen Kalender Şahı cezalandırdı ve buralarda nizamı tekrar kurdu.
Viyana Kuşatması esnasında, kıyafet değiştirerek asker içine girip bir cengaver gibi çarpışarak orduyu gayrete getirmeye çalıştı. Fakat, mühimmatın azalması ve mevsimin uygun olmaması üzerine kuşatma kaldırıldı.
İran ile Osmanlı Devleti arasındaki Bağdat, Bitlis ve Âzerbaycan valilerinin takındıkları kötü tavır sebebiyle çıkan karışıklıkları ortadan kaldırdı (1533). İstanbul’a döndükten sonra, ilk işi Fransa ile ileriki tarihlerde kapitülasyon denilen anlaşmaları yapmak oldu(1536).
Osmanlı Devletinin tarihi içinde hiçbir sadrazamın erişemeyeceği derecede şan ve şerefe erişen, kabiliyeti ve iktidarı ile devletin umumi vaziyetine tesir eden İbrahim Paşa, 15 Mart 1536’da sarayda kaldığı bir gece, siyasi sebeplerden dolayı öldürüldü ve Galata’daki Canfeda Zaviyesine defnedildi.
İbrahim Paşa, birkaç lisan bilir ve tarih, coğrafya, harp tarihi konularıyla devamlı meşgul olurdu. Devlet idareciliğinde mütehassıs olan İbrahim Paşanın, Kumkapı Camii ve Zaviyesi, Galata’da eski Yağkapanı Camii, Mekke, Selanik, Hezargrad ve Kavala’da cami, imaret, mektep, medrese, darülhadis, tabhane, hamam, çeşme, sebil yanında, daha birçok yerde mescid, tekke ve zaviyeleri olup, bunlara mükemmel vakıflar bağışlamıştır.