Sugiyama gimė buvusioje "samurajų" šeimoje iš Kokuros (dabar Kitakyushu miesto dalis), Fukuokos prefektūroje, 1901 m. baigė Japonijos imperatoriaus armijos akademijos 12-ąją klasę. Jis tarnavo kaip jaunesnysis karininkas Rusijos ir Japonijos kare, kai buvo sužeistas į veidą.
Šaho mūšis. Dėl žaizdų jis negalėjo visiškai atidaryti dešinės akies.