Gizli bir dernek olmakla birlikte halk arasında yayılan söylentiler dolayısıyla oldukça ünlüdür. İttihat ve Terakki Örgütü`nün pan-İslamizm (yayılmacı-islamcılık) kisvesi altında ya da onun yanı sıra I. Dünya Savaşı`nın başından beri gütmeye çalıştığı Pan-Turanist (yayılmacı-türkçülük) politikası için kurulduğu söylentileri dışında İslamiyetin kutsal rengi olan yeşili kullanması ve Sovyet devriminden sonra, eski Çarlık Rusya`sının çeşitli Müslüman uluslarındaki Bolşeviklerce simge olarak kullanılması İslamcılığına yorulmuştur.
Yeşil Ordu Cemiyeti gerçekte 1920 Mayıs ayında ortaya çıkmıştır. O sıralar, İstanbul`un tutucu çevreleri Ulusal Kurtuluş Hareketi`ni bolşeviklikle suçlayarak "kafir" saydırmaya çalışıyorlardı. Bu yüzden, Anadolu`da halk kitleleri ve özellikle askerler önünde temize çıkmak ve bolşevikliğin İslamlığın uygulamasından başka bir şey olmadığını söyleyerek, Sovyetlerle yapılması zorunlu işbirliğine elverişli bir ortam hazırlanması amacıyla, kurulmuştur. Bu cemiyetin genel merkez üyeleri: Şeyh Servet (Akdağ), Dr. Adnan (Adıvar), Hakkı Behiç, Yunus Nadi gibi kemalistlerdir. Yeşil Ordu Nizamnamesi İslami-Komunist renkteydi. Yeşil Ordu`nun asıl gücü Çerkes Ethem`in eline geçince M.Kemal bu örgütü dağıtmaya çalışmış ama başarılı olamamıştır. Çerkes Ethem çevresindekilere kimi zaman komunizmin tek kurtuluş olduğunu söylüyor ve 1920 Ağustosu sonlarına doğru Eskişehir`de Arif Oruç tarafından kurulan Seyyare Yeni Dünya adlı günlük bir İslam-Bolşevik Gazetesi çıkarıyor. Bu gazetenin logosunda "Dünyanın Fukara-i Kasibesi Birleşiniz" sözü Sovyet Müslümanlarından esinleniyor.