Ortaçağdaki Avrupa haritası, bugünkünden çok farklıydı. O zamanlar Avrupa'nın ortasında Almanya, Fransa, Felemenk, Avusturya, İsviçre, Bohemya (bugün Çek Cumhuriyeti ve Slovakya'nın bir bölümü) ve İtalya'nın kuzeyini içine alan, "Kutsal İmparatorluk" toprakları olarak anılan büyük bir bölge yer alıyordu. Kralların ve feodal beylerin yönetimindeki yarı bağımsız devletlerden oluşan imparatorluğun merkezi Alman topraklarıydı. İmparator genellikle elektör (seçmen) sıfatını taşıyan Alman prenslerince seçilirdi. İmparatorluk babadan oğula kalmazdı. İmparator, buyruğu altındaki toprakların tek hükümdarı olmakla birlikte istediğini yaptırabilmek için öteki yöneticilerin onayını almak zorundaydı.
Kutsal Roma-Germen İmparatorluğu'nun nasıl kurulduğunu daha iyi anlayabilmek için Roma İmparatorluğunun Augustus Caesar ile başlayan dönemine göz atmamız gerekir.
İS 5. yüzyılda yıkılan Batı Roma İmparatorluğu istilacı kabilelerce parçalanarak çok sayıda küçük krallıklara bölündü. Oysa Doğu Avrupa'da merkezi Konstantinopolis (bugün İstanbul) olan Doğu Roma ya da Bizans'ta imparatorluk gücünü korumaktaydı. Batıda ele geçirdikleri yerleri Bizans İmparatorluğu'nun temsilcileri olarak yönettiklerini ileri süren bazı krallar zamanla topraklarını genişleterek güçlendiler. Bu krallardan biri de yeni bir imparatorluk kurarak, Batı Roma İmparatorluğu geleneğine sahip çıkmak isteyen Frank Kralı Şarlman'dı. MS 800'de Roma' daki San Pietro Kilisesi'nde Papa III. Leo' nun elinden taç giyerek Kutsal Roma-Germen İmparatorluğu'nun ilk yöneticisi oldu.
Karolenj hanedanından gelen Şarlman, hükümdarlığı döneminde buyruğu altındaki halklara Hıristiyanlık'ı benimsetmeye ve onları kendisinin tüm Hıristiyanlar'ı yönetmek üzere Tanrı'nın gönderdiği bir yönetici olduğuna inandırmaya çalıştı. Şarlman'dan sonra yerine geçen oğlu I. Ludvvig (Sofu) 840'ta ölünce, Şarlman'm torunları arasında büyük bir iç savaş başladı ve imparatorluk bölündü. Uzun süren kargaşa döneminin ardından, 962'de Alman Kralı Otto (Büyük), I. Otto adıyla imparator oldu.
Bu tarihten sonra Kutsal Roma-Germen İmparatorluğu Alman hanedanlardan gelen krallarca yönetildi. Roma İmparatorluğu'nu yeniden canlandırma düşüncesine kapılan I. Otto taç giydikten sonra kilisenin koruyuculuğunu da üstlenerek imparatorluk ve papalık sanlarını birleştirdi. Böylece Hıristiyanlık'ın koruyucusu ve batıdaki tüm hükümdarların tek efendisi konumuna yükselen imparator "Roma İmparatoru" olarak anılmaya başlandı. İmparatorun yetkileri sınırsız olmakla birlikte mali gücü kısıtlıydı. Buyruğu altındaki bazı zengin krallara ve feodal beylere boyun eğdirmekte güçlük çekiyordu.
Bazı yöneticiler haklarını savunmak ve güçlerini kanıtlamak için sık sık imparatora başkaldırıyordu. Bazen imparatorun yerine geçmek isteyenler arasında şiddetli savaşlar olurdu. Bu sorunlar zaten karmaşık bir yapısı olan imparatorluğun yönetimini daha da güçleştiriyordu.
Yapısı
Kutsal Roma Germen İmparatorluğu'nun yöneticilerinin hepsi Almandı. Bütün Kutsal Roma İmparatorları katolikti. Ama soylu aileler ve üst seviyelerdeki devlet görevlilerinin çoğu Almanca konuşmayan ırklara mensuptu. Ülkede sadece değil Slav dilleri, Fransızca, Flemenkçe ve İtalyanca da konuşuluyordu. Büyük sayılarda dini azınlık gruplar bulunmaktaydı. Bunlar; Yahudiler ve Ortodokslardı. Ayrıca imparatorluk Protestanlığın ortaya çıktığı ülkedir.
Büyük Otto'nun 2 Şubat 962'de taç giymesinden sonra, bu imparatorluk Batı Roma İmparatorluğu'nun mirasını resmen devralmış oluyordu; "Romanorum İmperium" terimi ancak Konrad II döneminde kullanılmaya başlandı. Friedrich I, imparatorluk unvanının Sancta Ecclesia karşısındaki kutsal niteliğini vurgulamak amacıyla "Sacrum İmperium" kavramını getirdiyse de (Besançon diyeti,1157), bu terim krallık belgelerine ancak 1254'te girdi.
Nihayet, "Nationis Germanicae" nitelemesi, Almanların imparatorluk üzerindeki ulusal haklarını belirtmek için 15. yüzyılda kondu, ama tam anlamıyla 17. yüzyılda yaygınlık kazandı.
15. yüzyılın ortalarından sonra başa geçen Kutsal Roma-Germen imparatorlarının çoğu Habsburg hanedanından geliyordu. Habs-burglar evlilik yoluyla Bohemya, Macaristan, Felemenk, İspanya, Napoli, Sicilya toprakla-rıyla Amerika ve Asya'daki İspanyol sömürgelerini ele geçirerek imparatorluk topraklarını genişlettiler.
1519'da Avusturya arşidükü, V. Kari (Şadken) adıyla Kutsal Roma-Germen imparatoru seçildi. Büyüyen imparatorluk topraklarını tek başına yönetmenin güçlüğü karşısında, bir bölümünü kardeşi Ferdinand'a (sonradan İmparator I. Ferdinand) bıraktı. Habsburglar'ın yönetimi altında gücünün doruğuna ulaşan imparatorluk, 16. yüzyıldaki Reform hareketi sırasında sarsılmaya başladı. Katolik imparatorla Protestanlık'ı benimsemiş olan Alman prensler arasındaki uyuşmazlık Almanya'nın bölünmesine yol açtı. Protestanlar ile Katolikler arasında yıllarca süren savaşlar yüzünden gücünü yitiren imparatorluk, Otuz Yıl Savaşlarının (1618-48) sonunda yarı bağımsız devletlerin oluşturduğu güçsüz bir birliğe dönüştü.
Kutsal Roma-Germen imparatorlarının sonuncusu II. Franz, 1806'da I. Napolyon'a yenildikten sonra Kutsal Roma-Germen imparatoru sanını bırakarak Avusturya imparatoru sanını aldı. Bu olayla birlikte Kutsal Roma-Germen İmparatorluğu resmen sona erdi