1978 ile 1984 yılları arasında Batı Almanya Ulusal Futbol Takımı`nın teknik direktörlüğünü yapmış, 1980 Avrupa Futbol Şampiyonası`nı kazanmış ve 1982 Dünya Kupası`nda final oynamıştır. Saç biçimi ona “Şef Gümüş Kıvrım” lakabını kazandırmıştır (Alm.: ``Hí¤uptling Silberlocke``). 1984-1987 yılları arasında Galatasaray Futbol Takımı teknik direktörlüğünü de yapmıştır. 26.06.2007 tarihinde geçirdiği hastalık sonucu hayatını kaybetmiştir.
İlk Teknik Direktörlük Yılları
Oyuncu olarak emekli olduktan sonra, Derwall ilk olarak İsviçrede FC Biel (1959-1961) ve FC Schaffhausen (1961-1962) takımlarını çalıştırmıştır. 1962 yılında Fortuna Düsseldorf ile bir kez daha kupa finaline yükselmiş ve uzatma dakikalarında 1. FC Nürnberg`e 1-2 kaybetmiştir. Sonradan altı yıl süresince Saarlan bölgesel birliğinin teknik direktörlüğünü yapmıştır.1970`de Udo Lattek`in yerine Batı Almanya milli takımı yardımcı teknik direktörü olarak efsanevi Helmut Schön`ün ekibine atandı. 1972 Yaz Olimpiyatlarında Alman takımından sorumluydu, son sekiz takım arasına kaldı.
Derwall, Schön`ün yardımcısı olarak 1978 Dünya Kupası sonrasına kadar hizmet verdi. Schön teknik direktörlükten emekli olunca, turnuvadaki başarılarında ışığında, Derwall Batı Almanya ulusal futbol takımı teknik direktörlüğüne getirildi.
Almanya`nın idaresinde
Derwall`in teknik direktör olarak ilk büyük turnuvası İtalya`da düzenlenen 1980 Avrupa Futbol Şampiyonası oldu. Yönetimindeki Batı Almanya Milli Takımı, oynadığı beş maçın dördünü kazanarak şampiyonluğu kazandı ve Klaus Allofs turnuvanın gol kralı oldu.Güven duygusu İspanya`da düzenlenen 1982 Dünya Kupası ile giderek arttı. Derwall, Cezayire karşı oynanacak ilk maç öncesi, ``"Cezayir`i yenemezsek eve giden ilk trene bir bilet alacağım!"`` diye açıklama yapmıştır. İşler beklendiği gibi gitmemiş ve Almanya Cezayir`e beklenmedik bir şekilde yenilmiş ve Derwall sözünü tutamamıştır. Derwall`in Batı Almanya`sı sükunetini korumuş ve pekçok zorlu maçtan sonra finale kadar gelmiştir. Bu zor maçlardan biri unutulmaz Fransa maçıdır. Maçta, Batı Almanya 3-1 yenik durumda iken skoru 3-3`e getirmiş ve Fransa`yı penaltılarla elemiştir. Finalde Batı Almanya, İtalya`ya 3-1 yenilmiştir. Final maçının yıldızları Karl-Heinz Rummenigge ve Paul Breitner idi.
Aksiliklere rağmen, Derwall Batı Almanya teknik direktörü olarak 1984 Avrupa Futbol Şampiyonası`na katıldı. Favorilerden biri olarak gösterilmesine rağmen Batı Almanya Fransa`da başarılı olamadı ve Derwall`in takımı ilk turda elendi. Almanya`daki kamuoyu hızla Derwall`e karşı tersine döndü. Derwall görevinden istifa etmeye zorlandı ve yerine Franz Beckenbauer getirildi.
Türkiye`deki oyunu canlandırmak
1984 yılında Bundesliga takımlarından gelen pekçok teklifi şaşırtıcı biçimde reddederek Galatasaray`a teknik direktör oldu.Uluslararası bir saygınlığı ve deneyimi olan Derwall`in gelişi Avrupa`da Türk futbolunun algılanmasını olumlu yönde değiştirmiştir. Galatasaray`daki imtiyazlı çalışması Türk futbolunun geleceğinin değişmesine yardımcı olmuştur. Bir ulusal şampiyonluk ve bir Türkiye Kupası kazanmasına rağmen, Derwall`in İstanbul`da bulunması ile Türk futboluna modern Avrupa antreman teknikleri ve taktik fikirleri kazandırmıştır.
Türkiye`nin önde gelen teknik direktörlerinden olan Fatih Terim ve Mustafa Denizli Derwall`in Türkiye`de bulunduğu süre içinde ondan eğitim almışlardır.
Derwall, 1987 yılında Galatasaray`dan emekli olarak spor yaşamını bıraktı. Türk Milli Takımı`nı çalıştıracağı yönünde yapılan spekülasyonlara rağmen, Almanya`ya dönüp emekliliğin tadını çıkarma kararı aldı.
1991 yılında bir kalp krizi geçirdi, fakat sağlına kavuştu.
Jupp Derwall, geçirdiği kısa süreli ağır bir hastalıktan sonra 26 Haziran 2007`de 80 yaşında hayata gözlerini yumdu ve 2 Temmuz günü yapılan cenaze töreninin ardından yakılarak dünyaya veda etti. Cenaze törenine eski kulübü Galatasaray tarafından Türkiye`den uçak kaldırıldı. Cenaze törenine katılanlarının çoğunun Türk olması da dikkat çekiciydi.
Jupp Derwall sadece Türkiye`deki oyunu canlandırmadığını ve fikir noktasındaki katkılarıyla da Türkiye`ye çok şey verdiğini ölümü sonrasında yaşananlarla tekrar göstermiş oldu.galatasaray çokl güzel birtakımdı ona göre.