();902年6月25日，被授予少尉军衔。1903年晋升为中尉。1904年2月，杉山元任第14步兵联队第3大队副官，随第12师团主力在仁川登陆，参加日俄战争。在中国东北本溪湖附近参加沙河会战时，杉山元头部负伤，伤愈后留下终身疤痕，右眼脸下垂，这也是他的明显标志。1905年4月改任中队长，5月被任命为预备队中队长并返回国内。同年6月晋升为上尉。1906年4月，杉山元与山本清真结婚，但山本于次年死于肺结核。
1907年，杉山元考进陆军大学22期学习。1910年毕业后调到参谋本部情报部任职。不久即与小川又次大将之女义子结婚，但义子亦于次年死于肺结核。1912年化装为海军中尉随日本练习舰队相继出访菲律宾和新加坡，侦查当地防务。1914年3月，杉山元晋升为少佐，调回小仓第14步兵联队任职。1914年8月，杉山元任第14步兵联队大队长。
1915年再次出任英属印度武官，结识了早期印度独立运动的一名领导人布斯（，1886-1845，曾策划1912年迁都德里爆炸案），并不顾英日同盟，掩护对方逃到日本，他这样做赢得了包括钱德拉·鲍斯等人的好感。1918年出访中东，参观