Varlıklı bir çiftlik sahibinin oğluydu. 1939'da Porto Alegre Üniversitesi Hukuk Okulu'ndan mezun oldu. 1945'te Brezilya İşçi Partisi'ne (Partido Trabalhista Brasileiro - PTB) girdi. Popülist devlet başkanı Getúlio Vargas'ın (1930-1945, 1951-1954) koruması altında bulunan Goulart, 1946'da Rio Grande do Sul eyalet meclisine seçildi; ardından da eyaletin adalet ve içişleri bakanı oldu. 1951'de İşçi Partisi'nin başkanı oldu. 1953 ve 1954'te Başkan Vargas'ın yönetiminde çalışma, sanayi ve ticaret bakanı olarak görev yaptı; çalışma yasalarında reform yapılması için çaba harcadı. 1956'dan 1961'e değin Başkan Juscelino Kubitschek'in yardımcılığında bulundu. 1960'ta yeniden başkan yardımcısı seçilen Goulart, Başkan Janio Quadros'un istifasından sonra, kendisini komünistlere sempati duymakla suçlayan ordunun güçlü muhalefetine karşın 1961'de başkanlığı devraldı.
Yönetimi sırasında komünist ülkelerle bağlarını güçlendirdiği ve bir dizi radikal reform gerçekleştirdiği için ABD'yi öfkelendirdi. Yabancı şirketlerin kar transferlerini sınırlayan bir yasa çıkarılmasını sağladı. Yeniden toprak dağıtılmasına ilişkin tartışmalı bir programın onaylanması konusunda Kongre'yi ikna etmeye çalıştı. İktidardan indirilmesinden hemen önce işçi sınıfının yararına sonuçlar doğuracak bir reform paketi önerdi. Hızla tırmanan enflasyon yüzünden ekonominin işlemez duruma geldiği bir dönemde başkanlık yapan Goulart hem aşırı solun, hem de ordunun sürekli eleştirisine uğradı. Mart - Nisan 1964'te bir askeri darbeyle devrildi ve Brezilya'yı terk ederek Uruguay'a sığındı. Arjantin'in kuzeyindeki çiftliğinde sürgünde öldü.