Donald Rumsfeld ilk önce 1975-1977 yılları arasında Gerald Ford Hükümeti`nde 13. Savunma Bakanı oldu. O zamanki hizmeti sırasında ABD tarihinin en genç Savunma Bakanıydı. Yıllar sonra George W. Bush`un başkanı olduğu ABD hükümetinde 2001-2006 yılları arasında 6 yıla yakın bir süre 21. Savunma Bakanı olarak görev yaptı. Görevinin son yılında 74 yaşında olan Rumsfeld bu sefer ABD tarihinin en yaşlı savunma bakanı olmuştu. ABD`nin 2003 yılında Irak`ı işgal etme planının mimarı olarak bilinmektedir. ABD`deki 2006 yılı ara seçimleri komuoyunda ABD`nin Irak siyaseti konusunda bir referandum olarak algılandı. İktidardaki Cumhuriyetçi Parti `nin bu seçimlerde ağır bir yenilgiye uğraması üzerine Rumsfeld 8 Kasım 2006`da görevden ayrılmak zorunda kaldı.
Donald Rumsfeld ayrıca 4 dönem boyunca ABD Temsilciler Meclisinde görev yapmıştı. 1973-1974 yılları arasında ABD`nin NATO örgütü nezdindeki elçiğini görevinde da bulundu.