1923 yılında İstanbul'da doğan Hancı, ortaöğrenimini Galatasaray Lisesi'nde tamamladı. Güzel Sanatlar Akademisi'nde mimarlık öğrenimi gördü. 1946'daki mezuniyetinin ardından Fransa'ya gitti. II. Dünya Savaşı'nda yıkılmış olan La Havre kentinin yeniden inşası ile görevlendirilen Auguste Perret ile çalıştı.
1952 yılında Türkiye'nin ilk büyük mimarlık bürosu olan IMA'nın kurucuları arasında yer aldı. 1953 yılında Anadolu Kulübü Oteli'nin yarışmasında birincilik alarak Büyükada'daki Anadolu Kulübü'nün mimari tasarımını Turgut Cansever ile yaptı. Aldığı bir davet üzerine 1955'te yeniden Fransa'ya, NATO Genel Merkezi binası yapımında çalışmak üzere gitti. 4 yıl sonra inşaat bittiğnde Fransa'da kalarak serbest mimarlık yaptı.
1966 yılında Türkiye'ye döndü. Yurda döndükten sonra ilk ilk işi, o yıllarda sadece 2 sanat galerisinin bulunduğu İstanbul'a yeni bir sanat galerisi yapmak idi: Beyoğlu'nda Galeri 1 adlı galeriyi oluşturdu. 1967'den itibaren Divan Oteli'nin, 30 yıl süreyle mimari danışmanlığını yaptı.
1975'te Cumhurbaşkanlığı Dış Konuklar Köşkü (Camlı Köşk)'ü yeniledi. Bedri Rahmi, Füreyya Koral, Mustafa Pilevneli gibi çağdaş Türk plastik sanatçılarının eserlerini binalarına kullandı. Birçok konut, işyeri, banka şubesi için proje üreten Hancı, birçok yarışmada derece aldı.
1996 yılında Mimarlar Odası Ulusal Mimarlık Ödülü’nü kazanmıştır.
2007 yılında, 84 yaşında hayatını kaybeden Abdurrahman Hancı, Edirnekapı Şehitliği'ne defnedildi.