1867 yılında “Memleket Sandıkları Nizamnamesi” nin yürürlüğe girmesiyle Osmanlı Devleti’nin her yanında Sandıklar faaliyete başlamış ve uzun yıllar başarıyla hizmet vermiştir.
15 Ağustos 1888’de Menafi Sandıkları’nın yerine işlevlerini üstlenecek modern finans kuruluşu olarak Ziraat Bankası resmen kurulmuş, o tarihte faaliyette bulunan Menafi Sandıkları da Banka şubelerine dönüştürülerek faaliyete başlamıştır.
I. Dünya Savaşı'ndan sonra ülkenin işgale uğraması üzerine işgal altındaki topraklarda bulunan şubeler, Yunanllılar'ın İzmir'de kurdukları "Ziraat Bankası İdare Merkezi"'ne bağlanmıştı. 1920'de TBMM'nin açılmasından sonra TBMM kontrolünde bulunan yerlerdeki şubeler Ankara şubesine bağlandı. 1922'de İzmir ve İstanbul teşkilatları da Ankara'ya tabi oldu ve banka tekrar bütünlüğe kavuştu. 1924 yılında çıkarılan kanunla banka, bir devlet kurumu olmaktan çıkarılıp bir anonim şirket haline geldi. 1975'te Hamburg'ta temsilcilik, Kıbrıs'ta 3 şube açıldı. 1977'de bölge müdürlükleri kuruludu ve yerinden yönetim anlayışına geçilmeye başladı. 1981'de Türkiye'nin ilk banka müzesi olan Ziraat Bankası Müzesi kuruldu. 1988'de ilk defa tarımı desteklemede bir bölge tek başına ele alınarak GAP bölgesi üreticilerine, bölgenin özelliklerine uygun kredi desteği verilmeye başlandı. 1989'da ilk kredi kartı verildi, ilk tüketici kredisi verildi, altın satışına (Ziraat Altın) başlandı; bankanın ilk yatırım fonu kuruldu. 2001 yılında Türkiye Emlak Bankası, Ziraat Bankası ile birleştirilerek kapatıldı. Şubat 2001 Krizi'nin ardından diğer kamu bankalarıyla ortak bir yönetim kurulu tarafından yönetilmeye başlandı; bu uygulama 2005 yılında sona erdi.
Bankanın New York, Londra, Sofya, Tiflis, Bağdat, Lefkoşa, Girne, Gazimağusa, Güzelyurt, Atina ve Gümülcine'de şubeleri, Karaçi ve Tahran'da ise temsilcilikleri bulunmaktadır.
