1911 yılında annesinin ailesinin çiftliğinin bulunduğu Hayfa yakınlarındaki Arap köyü Tulkarem'de doğdu (Tulkarem aynı zamanda sonradan arkeoloji dünyasında büyük önem kazanacak antik Caesareia kentinin kalıntılarının bulunduğu yerdir). Osmanlı'nın Hersek vilayetine müftüler yetiştirmiş köklü bir aileden gelen babası başkentte doğmuş görünmesini yeğlediği için nüfusuna İstanbul yazdırmıştır. O 2 yaşındayken aile İstanbul'a dönmüş, bir süre Adapazarı 'nın Akyazı ilçesindeki çiftliklerinde kalmışlardır. 6 yaşından itibaren halasının eski Hersek müftüsü olan ve Darülfünun 'da Arap edebiyatı müderrisliği yapan kocası Cabizade Ali Fehmi Efendi'nin evinde kalmaya başlamış ve ilk eğitimini burada almıştır.
1931'de İstanbul Erkek Lisesi'ni bitirdi. Devlet sınavını kazanarak Almanya'da arkeoloji öğrenimi gördü. 1935 yılında Soyadı Kanunu çıkınca, babasının isteği üzerine, bir Sümer kralının adı olan ve Sümerce 'de 'su' ('a'), 'ülke' ('kur') ve 'büyük' ('gal') kelimelerinin yanyana gelmesinden oluşan Akurgal soyadını aldı.
1957 yılında Ankara Üniversitesi Dil ve Tarih – Coğrafya Fakültesinde ordinaryüs profesör oldu.
Ege'de Foça , Çandarlı , Çeşme - Ildırı Erytrai ve Bayraklı (eski Smyrna) antik kentlerini ortaya çıkarmıştır. Eski Yunan, Hitit – Hatti ve eski Anadolu uygarlıkları üzerine çeşitli dillerde sayısız eseri yayınlanmıştır.
Akurgal, Avrupa'da yedi akademiye üyedir ve dünyadaki pek çok bilim kuruluşunun şeref üyesidir. Bordeaux Üniversitesi (1961), Atina Üniversitesi (1988), Lecce Üniversitesi (1990), Anadolu Üniversitesi (1990) kendisine şeref Doktoru sanını vermişlerdir.
Akurgal, Federal Almanya Büyük Liyakat Nişanı Yıldızlı Rütbesi (1979), Goethe Madalyası (1979), Türkiye Cumhuriyeti Kültür Bakanlığı Büyük Ödülü (1981), İtalyan Commandatore Nişanı (1987) ve Fransız Légion d'Honneur Officier rütbesi (1990) sahibidir.
Akurgal, Türkiye'de arkeoloji bölümlerinde akademik olarak görev yapmış ve yapmakta olan birçok arkeoloğun hocasıdır. Bu yüzden "Hocaların Hocası" olarak anılır.
Akurgal, 2002 yılında İzmir'de öldü. Çalışmaları, kendisi de bir uzman arkeolog olan ve sağlığında en yakın asistanlığını yürüten eşi Meral Akurgal tarafından sürdürülmektedir.