1928-1938 m. leitenantas Gvishiani buvo paskirtas ir vadovavo įvairiems NKVD, sovietinės slaptosios policijos, padaliniams, daugiausia Gruzijoje. 1936 m. jis buvo paaukštintas į majoro rangą, o po dvejų metų ir dviejų paaukštinimų 1938 m. buvo paskirtas į Novosibirsko oblastą, kur jis tarnavo kaip "valstybinio saugumo 3-osios klasės komisaras". Sovietų invazijos į Mandžiuriją metu
1945 m. Givishiani buvo apdovanotas keliais apdovanojimais už visų pramoninių išteklių repatriaciją iš Mandžiūrijos į Sovietų Sąjungą, už kurį tą patį metus buvo paaukštintas į generolo leitenantą.