İsmet Sezgin, eğitimini takiben Denizli’de Emlak Kredi Bankası şubesinde görev aldı. 1951 yılında lise matematik öğretmeni Saadet Hanımla evlendi. Politikayla ilgisi, Denizli’de bulunduğu süre içinde ve fiilen 1952 yılında başladı. 1955 yılına kadar Denizli’de DP İl idare Kurulu’nda çalıştı. 1955 yılında Aydın’dan Belediye Başkanı seçilen İsmet Sezgin, 1960 yılına kadar sürdürdüğü bu görevinden, 27 Mayıs 1960 İhtilali’nde tutuklanarak ayrıldı. Tutukluluk süresinin sonunda, siyasi partilerin faaliyetlerine izin verildiğinden Aydın’da AP’yi kurdu. 1961 yılında yapılan milletvekili seçimleriyle Aydın milletvekili oldu.
1968 yılında önce Fransa’da başlayan, daha sonra diğer ülkeleri de etkileyen gençlik hareketleri, kısa sürede Türkiye’de de mitingler, protesto gösterileri ile kendini hissettirdi. Ülkemizde de gençliğin sorunları Milli Eğitim bünyesinde kapsanamaz bir duruma gelince, Gençlik ve Spor Bakanlığı adı altında bir bakanlık kuruldu ve 1968 yılında bu bakanlığa İsmet Sezgin getirildi. Bu görevden 12 Mart 1971 askeri muhtırasıyla ayrıldı.
1991’de kurulan 49. Demirel Hükümetinde İçişleri Bakanı olarak görev aldı.
İsmet Sezgin Fransızca bilmekte olup, Seynan Levent, Ayşe Sezgin adlarında iki kızı ve Efe Levent, Hazel Levent adlarında iki torunu bulunmaktadır.