2. diviisiossa käytiin taistelua ensimmäisen kiinalais-japanilaisen sodan aikana Weihaiwein taistelussa. Ensimmäisen Kiinan-Japanin sodan jälkeen 2. divisioonan elementtejä käytettiin muodostamaan uuden IJA: n 7. divisioonan ydin, joka oli sijoitettu Hokkaidoon, ja IJA: n 8. divisioonan, joka oli sijoitettu Hirosakiin, Aomoriin. Samoin 2. divisioona oli aktiivinen useimmissa Venäjän ja Japanin sodan suurissa taisteluissa osana kenraali Kuroki Tamemoton ensimmäistä armeijaa, mukaan lukien Liaoyangin taistelu, Shahon taistelu
Mukdenin taistelu, ja hankki maineensa yöoperaatioissa.