Karl Gruber (d. 3 Mayıs 1909, Innsbruck - ö. 1 Şubat 1995, Innsbruck) Avusturyalı diplomat ve siyasetçi.
Viyana Üniversitesi'nden mezun olmuştur. Avusturya Halk Partisi'nde siyaset yapmış ve 1945-1953 yıllarında Dışişleri Bakanı olmuştur. 1954-1957 ve 1969-1972 yıllarında Amerika Birleşik Devletleri Büyükelçisi, 1961-1966 yıllarında İspanya, 1966 yılında kısa bir süre Batı Almanya Büyükelçisi ve 1972-1974 yıllarında İsviçre Büyükelçisi olarak görev yapmıştır. Ayrıca 1946'da Paris'te imzalanan (Trentino-Alto Adige/Südtirol'un İtalya kalıp özerk olmasını sağlayan) De Gasperi-Gruber Anlaşması'nın yazarları arasındadır.