İsveç asıllı bir aileden geliyordu. 1889`da süvari teğmeni olarak Rus ordusuna girdi. Finlandiya o sırada Rus Çarlığı sınırları içinde yer alıyordu. Mannerheim Rus-Japon Savaşı (1904-1905) ve I. Dünya Savaşı`nda kendini göstererek Rus ordusunda korgeneralliğe ve kolordu komutanlığına yükseldi. 1917`de Rusya`da Ekim Devrimi`nin başlaması üzerine, Rusya`dan bağımsızlığını ilan etmiş olan Finlandiya`ya döndü. Tutucu bir soylu ve monarşi yanlısı olan Mannerheim, Fin İç Savaşı sırasında Bolşevik karşıtı Beyaz kuvvetlerin komutanlığını üstlendi (Ocak 1918) ve Almanların da desteğiyle, dört ay süren kanlı bir seferin sonucunda Finlandiyalı Bolşevikleri yenilgiye uğratıp Sovyet kuvvetlerinin ülkeden çıkardı. Aralık 1918`de Finlandiya kral naibi oldu ve cumhuriyetin ilan edildiği 1919`a değin bu görevde kaldı. Herhangi bir devlet görevi üstlenmediği 1919-1931 arasında gönüllü sağlık ve sosyal yardım kuruluşlarında çalıştı.
1931`de Ulusal Savunma Konseyi`nin başkanlığına getirilen Mannerheim`ın sekiz yıl süren bu görevi sırasında, Leningrad`ın karşısına düşen Karelya Kıstağını boydan boya geçen ve Sovyetler Birliği`nden gelebilecek saldırıları önlemek üzere planlanan Mannerheim Hattı`nın yapımını tamamladı. Sovyet birliklerinin Aralık 1939`da Finlandiya`ya saldırmasının ardından başkomutanlığı üstlenen Mannerheim`ın komutasındaki Finlandiya ordusu sayıca çok üstün kuvvetler karşısında önemli başarılar elde etti. Ama sonunda Finlandiya yenildi ve 1940`ta oldulça ağır bir barış antlaşması imzalamak zorunda kaldı.
Finlandiya Haziran 1941`de tarihsel olarak Finlandiya`ya ait olduğu öne sürülen bazı toprakları geri almak umuduyla Nasyonal Sosyalist Alman İşçi Partisi Almanyası`yla birlikte Sovyetler Birliği`ne savaş açtı. Haziran 1942`de Mareşalliğe yükseltilen Mannerheim`ın komutasındaki birlikler Sovyet ordusunun üstünlüğü ele geçirmesi üzerine savaşın başında istila ettikleri topraklardan geri çekilmek zorunda kaldılar. Mannerheim, Sovyetler Birliği`ni ayrı bir barış antlaşması imzalamaya ikna edebileceği düşüncesiyle Ağustos 1944`te Finlandiya cumhurbaşkanlığına getirildi.Eylülde Sovyetler Birliği`yle ateşkes imzalandı. Ama ateşkesten sonra yapılan barış antlaşmasıyla, Finlandiya Sovyetler Birliği`ne 1940`taki barış antlaşmasıyla verdiğinden çok daha fazla ödün vermek zorunda kaldı. 1946`da sağlık nedeniyle cumhurbaşkanlığından çekilen Mannerheim`ın ``Erinnerungen`` (Anılar) adlı kitabı 1952`de yayımlandı.