Jaapani mõõga põlisvaenlaseks on rooste. Seetõttu tuleb tera hoida äärmiselt stabiilse temperatuuri ja niiskusega hoiukohas. Et vältida tera roostetamist tuleb tera aeg-ajalt õlitada. Õhuke kiht choji-õli aitab üsna hästi roostet vältida. Tera õlitamiseks piisab, kui pühkida puhta valge riidelapi (värviline riidelapp võib anda värvi ning see värv imendub tera sisse) või lõhnatu salvrätiku abil vana õli maha ning kanda peale õhuke kiht uue õliga. Õli ei pea tera sisse nühkima, piisab ühest tõmbest puhta riidelapiga.