KGB 1954 yılında İç İstihbaratın NKWD birimi ve İçişleri Bakanlığının MWD biriminin birleşmesiyle meydana geldi. Merkezi Moskova`daki Lubyanka Meydanı`nında bulunuyordu.
1991 Ağustosundaki ihtilal girişiminde zamanın KGB Başkanı General Vladimir Kryuçkov `un rolü olduğu ispatlanıp General Vadim Bakatim`e verilen emirle KGB 6 Kasım 1991`de resmen kaldırılmıştır. Rusya`da KGB`nin görevini FSB (Ğ¤ĞµĞ´ĞµÑ€Ğ°Ğ»ÑŒĞ½Ğ°Ñ Ñлужба безопаÑноÑти, Federal Güvenlik Teşkilatı) üstlenmiştir. Beyaz Rusya `daki gizli servisin adı halen KGB`dir.
