Sugiyama egy korábbi "szamuráj" családban született Kokura-ból (most a Kitakyushu város része), Fukuoka prefektúrából, és 1901-ben végzett a Japán Császári Hadsereg Akadémiájának 12. osztályából. Kisebb tisztként szolgált az IJA 12. hadosztálya 14. zászlóaljának 3. zászlóaljában az orosz-japán háborúban, és az arcán megsérült a Shaho-i csata során.
- Igen. A sérülésből származó hegek miatt nem tudta teljesen kinyitni a jobb szemét.