İlk öğrenimini mahalle mektebinde gören Cemaleddin Efendi, babasından ve zamanının büyük alimlerinden ilim tahsil etti. Medrese tahsilini tamamlayıp on yedi yaşındayken Rüus-ı Hümayun defterine kaydolunarak kendisine maaş bağlandı. Zeka ve dirayeti sayesinde ilerleyerek 1866 senesinde İbtida-yı hariç payesiyle müderris oldu. 1871’de Hareket-i hariç payesi alıp Şeyhülislamlık Mektupçu Muavinliği; 1872’de İbtida-yı dahil payesiyle, Anadolu Kazaskerliği Mektupçuluğuna getirildi. Daha sonra Adliye Nezareti Ceza Mahkemesi Muharrerat Şube Muavinliği ve Müdürlüğüne yükseldi. İlmiye rütbesinde ilerleyip 1877’de Süleymaniye Müderrisliği payesine ulaştı. 1884’te İstanbul Kadısı; daha sonra Anadolu Kazaskeri ve 1890’da Rumeli Kazaskeri oldu. 1891 senesinde Rumeli Kazaskeri payesiyle Meşihat mektupçuluğunda bulunduğu sırada üstün zeka ve dirayeti, aynı zamanda devrin bütün ahvaline (hallerine) vakıf olması sebebiyle, 43 yaşındayken Şeyhülislamlık makamına yükseldi. Aralıklı olarak on sekiz seneye yakın bu vazifede kaldı. Dört defa Şeyhülislamlık makamına getirildi. Birinci ve ikinci şeyhülislamlığı 17 yıl 5 ay 10 gün; üçüncü ve dördüncü şeyhülislamlığı 6 ay 3 gün sürmüştür. Birinci ve ikinci şeyhülislamlığı Sultan İkinci Abdülhamid Hanın, üçüncü ve dördüncü şeyhülislamlığı ise Sultan Reşad’ın saltanatı yıllarına rastlamaktadır. Cemaleddin Efendi Osmanlı tarihinde Ebüssuud Efendi, Molla Fahreddin-i Acemi ve Zenbilli Ali Efendiden sonra şeyhülislamlıkta en çok kalan kimselerdendir.
Cemaleddin Efendi uzun müddet Şeyhülislamlık vazifesinde bulunmaktan başka devrinde yaşanan birçok önemli hadiselere şahid olmuştur. Bunlardan birisi, Sultan İkinci Abdülhamid Hana karşı 21 Temmuz 1905 Cuma günü tertiplenen Yıldız Suikastıdır.
Sultan İkinci Abdülhamid Han, her hafta Cuma selamlığına Şeyhülislam Cemaleddin Efendi ve serasker Rıza Paşa ile birlikte çıkardı. 21 Temmuz 1905 Cuma günü Ermeniler Yıldız Camii önüne bir saatli bomba yerleştirerek Sultan İkinci Abdülhamid Hana karşı suikast tertiplediler. Her şey saniyesi saniyesine hesaplanmıştı. Ancak Abdülhamid Han hünkar mahfelinde Şeyhülislam Cemaleddin Efendi ile birkaç cümle konuştu. Bu gecikme sırasında yerleştirilen bomba patladı. Böylece Sultan İkinci Abdülhamid Han, Allahü tealanın yardımıyla, suikastten kurtuldu. Cemaleddin Efendi de bir facianın önlenmesine sebep olduğu için padişahın ihsan ve iltifatını kazandı.
Cemaleddin Efendinin şeyhülislamlığı sırasında 23 Ocak 1913 tarihinde vuku bulan ikinci mühim hadise, İttihatçıların meşhur Babıali Baskınıdır. İttihatçılar o sırada şeyhülislam olan Cemaleddin Efendiyi İstanbul’dan Mısır’a sürmüşlerdir. Cemaleddin Efendi Mısır’da bulunduğu sırada, Mısır halkı ona çok hürmet gösterdi. Cemaleddin Efendi Mısır’da kaldığı altı yıl içinde Hatırat-ı Siyasiyye adındaki eserini yazdı.
1919 senesinde 72 yaşında bulunduğu sırada Mısır’ın İskenderiye şehri civarındaki Remle kasabasında vefat etti. İskenderiye’deki cenaze namazına 35.000’den fazla Müslüman katıldı. İstanbul’a getirilen naşı Fatih Otlukçu Yokuşundaki aile kabristanlığına defnedildi. Sonraları Otlukçu Yokuşunun tadilatı sebebiyle mezarı Edirnekapı Şehitliği'ne nakledildi.