对日作战前期，蒋介石政府采取消极抗日的政策，何应钦方面的军事压迫，使抗日同盟军腹背受敌。察哈尔省地瘠民贫，同盟军补给极其困难，冯玉祥迫不得已，乃于8月5日发出通电，把收复国土之事交诸国人，并于15日离开张家口。至此，深为日寇所恐惧的察哈尔省民众抗日同盟军不幸夭折。
抗日同盟军被迫撤销后，宋哲元回察哈尔省主政。佟麟阁深感抗日之志未遂，而山河破碎，国运垂危，不胜悲愤，于是退居北平香山寓所，与家人团聚，奉养双亲，寄情于研读圣经、周易，写字，摄影，打猎，以待报国时机。
在隐退期间，宋哲元再三敦请佟麟阁出山，负责军事。第29军的师长冯治安、赵登禹、张自忠、刘汝明等亦联袂相邀。此时天津大学生和人民群众的抗日救亡运动，在共产党的号召下，日益激昂。佟麟阁感到抗日救国之日到来，于是欣然出山，回任第29军副军长兼军事训练团团长（教育长为张寿龄），还兼大学生军训班主任，住南苑29军军部，主持全军事务，整军经武，夙夜不懈。他曾对人说：
“中央如下令抗日，麟阁若不身先士卒，君等可执往天安门前，挖我两眼，割我两耳。”
时值举国抗日热潮汹涌澎湃，佟麟阁此言声情激越，闻者热血沸腾，全国有志抗日救国青年，敬佩佟麟阁坚决抗日的英雄气概，或跋涉千里，或从海外归来，有的本来就是抗日同盟军的干部，都来加入第29军，参加军事训练团受训，以期在抗日战场上奋勇杀敌。
