Selçuk Bey yönetimindeki Oğuz Türkleri, kısa zamanda İslamiyeti kabul etti. Bu durum, Selçuk Bey ile Yabgu'nun arasını iyice açtı. Selçuk Bey, "Müslümanlar, gayrimüslimlere haraç vermez' diyerek, Yabgu'nun haraç memurlarını kovdu ve bağımsızlığını ilan etti. Ardından, çevresindeki gayrimüslimlere karşı cihada başladı. Selçuk Bey'in istiklalini ilan etmesi, Yabgu'ya karşı direnmesi ve cihada girişmesi, bölgede itibarını giderek artırdı ve Yabgu'ya karşı olan Türk beyleri, kendisinin etrafında toplanmaya başladı. Böylece, Maveraünnehir'de üstünlük sağlayan Selçuk Bey, Müslüman olan Samanilerle anlaşarak, Buhara yakınlarındaki Nur kasabasına yerleşti.
Mikail, Arslan, İsrail, Yusuf ve Musa adındaki oğullarıyla birlikte, Büyük Selçuklu Devleti'nin temellerini atan Selçuk Bey, yüz yaşında vefat etti.