黄毓成任用川人杨森很不满,认为杨森脑后有反骨,找机会派兵把正在抽鸦片的杨森狠狠揍了一顿,还拉出去示众”受此大辱,杨森从此戒了鸦片。一九一六年六月任中将,一九一七年一月任北京大总统府军事咨议兼陆军部顾问,他本想实行自己军事报国的志愿,但黎元洪和段祺瑞的府院之争使他看到北京官场的黑暗”不久回滇任靖国联军第4军参谋长,八月任靖国联军〖中〗央军总指挥兼泸州卫戍司令,指挥金汉鼎和朱德两部大破川督周道刚部,收复泸州。他见滇军已经转为胜势,便接受朱德还政于川人的意见,保举熊克武为四川督军。一九一八年春因父丧回昆明守孝”期间两个儿子患白喉癌,在一个星期内相继去世,他从此再没有亲身子女,只有将一个侄儿杨兆龙岛在身边为养子。一九二一年顾品珍为云南都督后,委任他为云南省留日学生监督赴〖日〗本。
这是杨杰第二次到〖日〗本,回顾十年来,一腔报国的热血,竟被置于军阀乱战之中,而民国一天一天的坏下去,这使他对学习西方产生了极大的怀疑。认为要完成国民草命,就要彻底铲除依赖外国人的劣性根。“我们需要自发的生产力,生活力、生命力,战斗力,机械力。”这一切“操之于人则亡,操之于我则存。”要虽然已居高位,可杨杰深感自己的军事知识还很欠缺。一九二一年,他毅然放弃陆军中将的头衔,以中校军衔入〖日〗本陆军大学十五期深造。在〖日〗本陆军大学学习的四年中,杨杰如饥似渴地学习中外战争史及有关历史、地理、
战略、战术等方面知识,军事理论水平有了很大提高,深得校方欣赏。
当时,〖日〗本陆军大学经常让学员指挥海陆空军演习,以训练和考察学员的军事指挥能力。在一次演习中,杨杰被选为统帅。他指挥演习得心应手,并有独特创新,得到〖日〗本天皇的赞赏,并赐予军刀。根据当时〖日〗本军部的规定,陆军大学毕业生前三名才能得到〖日〗本天皇亲自赐刀,〖日〗本军人向来以此为殊荣,杨杰也因此赢得了“天才将军”,的美誉。天皇还特意让人测量了他的脑袋,果真比一般人大一号。还有一次,法国著名军事家约瑟夫霞飞元帅到该校参观时,杨杰被学校选为接受咨询的学员之一。在与霞飞元帅的交谈过程中,杨杰旁征博引,提出了自己独到的军事见解。霞飞元帅听后对学校的负责人说:“此人将必成东亚杰出军事人才”。一九二四年冬,杨杰以优异的成绩从〖日〗本陆军大学毕业。回到了魂牵梦萦的祖国。
一九二四年冬受孙岳的邀请任国民军第三军参谋长”一九二五年三月任国民军前敌总指挥,九月任河南陆军训练处教育长,旋脱离北方国民军赴广州参加国民草命军,一九二六年五月任国民草命军第六军总参议。辅佐军长程潜参加北伐,十二月任第六军十七师师长。
炮击南京事件后,蒋介石瓦解第六军,一九二七年三月任他为改编第六军后的第一纵队队长,四月任第六军副军长,并代理军长,指挥第一军第一、第三师和第六军继续北伐。七月部队改番号为第十八军,他继续任军长不久蒋介石强攻徐州大败,他被任命为国民草命军总司令部淮南行营主任兼总预备队指挥官,负责淮河防御。吧月蒋介石下野前,将北伐第二路军退守长江南岸交他指挥。
龙潭战役后,他指挥第十八军,第十四军,第三十二军渡江追击别传芳,一举攻克扬州、宝应,南通等地。何应钦为控制经济,任命其内兄担任扬州税监一职,他却对何说:“你把这一税收机关夺去我十万官兵吃什么,拒绝从命。”,何应钦不顾他的反抗,用政府命令任命并对他多方牵制,他一怒之下,辞职到〖日〗本去找蒋介石,蒋却怪他不该将部队丢了,让他跟着回国。
一九二八年三月任军事委员会常委兼办公厅主任,旋任第一集团军参谋长,参加二次北伐,五月蒋介石车到泰安,恰逢日军出兵占领济南商埠,杨杰随即打开地图对蒋说:“〖日〗本出兵早在预料之中,应该命令部队绕开济南,继续北上以收北伐全功。蒋左右的吴稚晖,邵力子和陈果夫都赞同此议。使第一集团军顺利到达德州。六月任国民草命军总司令部北平行营主任、北平宪兵学校校长,与冯玉祥、阎锡山周旋。
一九二九年三月任陆海空总司令部行营总参谋长,随蒋介石参加蒋桂战争,十月任南路军行营总参谋长、讨逆军第十军军长兼左翼指挥官,随蒋介石参加蒋冯战争当时西北军代总司令宋哲元东出潼关,发动强大攻势,蒋军整个正面危急登封不守,密县将陷临汝被围,他率徐源泉的第四十七师,王金钰的第四十八师增援,以一部封锁临汝冯军进攻要点,率主力侧击登封,并分兵迂回冯军后方,一举打败冯军,扭转整个战局。
一九三零年二月任洛阳行营主任兼第十军军长,随蒋介石参加蒋唐战争,一九三零年二月任宁、镇、澄、淞四路要塞总司令,五月任第二炮兵集团指挥官、陆海空总司令部总参谋长,随蒋介石参加中原大战,七月中,阎锡山主力渡过黄河袭取济南,冯玉祥也在陇海线上发动攻势,他建议在诱敌深入,在陇海、津浦两条铁路摆开口袋阵,各个击破冯阎两军。并亲自部署这一战役,他亲自指挥六个师于八月一日向汶上发动总攻,经过五昼夜激战,傅作义在肥城部消灭一半,戴玉玺部除三千投诚外,悉数阵亡,张会沼部在长清完全溃散。同时,十九路军也在在胶济线将阎军主力王靖国部消灭。他完全赢得了济南会战的胜利。8月,冯玉祥分兵七路,发动规模空前的八月攻势,冯军郑大章的骑兵师甚至攻到蒋介石的指挥部附近,形式非常危急,而蒋介石在附近又没有预备队,形式非常危急,蒋介石准备向归德以南缩短阵地,并电召他来实施退却计划小。他仔细分析了战场形式,认为还不到退却的地步,如果强行后撤,必然导致大败。还说西北军将领偏向稳重,不敢轻率冒进。只要用少数兵力进行反击,敌方就会止步不前。蒋介石依计而行,果然渡过了这次危机,等到十月张学良进兵关内的时候,冯阎军不可避免的走向崩溃的道路。
在这次战争中,他的夫人赵丕欣在上海病故,他未能见最后一面,深感痛心,蒋介石多次安慰:“为国效劳,不顾个人情意,古今少有,你对国家尽到了义务,没能对家庭尽到情义,是忠义两难全。望自我保重,无为悲伤。”,他在上海给夫人开追悼会的时候,蒋介石、宋美龄夫妻亲自前往悼念。后来他又娶了一个南开大学的毕业生胡允文,但不到两年就因性格不合而离婚。此后就没有再娶。
一九三一年当选为国民党〖中〗央执行委员,十二月任陆军大学校长,一九三二年一月任军事委员会参谋次长兼陆军大学校长,杨杰将军不仅有着杰出的军事指挥才能,也是卓越的军事理论家和教育家。他长期从事军事理论研究和军事教育工作,在创造〖中〗国的战略战术理论方面颇有建树,在改造〖中〗国军队,提高其战斗力方面提出了许多重要的方略,他长期担任陆军大学的领导工作,为国家培养了大量军事人才,在抗日战争中发挥了巨大作用。他注重对学员加强品德、人格教育,强调〖中〗国的一代军人要具有强烈的爱国主义思想 .