O 22 de febreiro de 1942, logo da súa graduación do Royal Military College, Sharma foi comisariado no 8o Batallón, 19o Regimiento de Hyderabad, do Exército Británico da India (que máis tarde se convertería no 4o Batallón do Exército Indio, Regimiento Kumaon). Durante a Segunda Guerra Mundial, participou en accións contra os xaponeses en Birmania durante a Campaña de Arakan.
- Non. Naquel momento servíu baixo o mando do coronel K. S. Thimmayya, que máis tarde ascendería ao rango de xeneral e se convertería en xefe do Estado Maior do Exército de 1957 a 1961. Sharma foi mencionado nos despachos polas súas accións durante os combates da Campaña de Arakan.