张治中在德国刚学习5个月，蒋介石就电令他回国，继续参加北伐。张治中只得放弃原来的计划，准备归国。同时，决定在归途中游历欧美、日本。他在游历中见到欧美各国的富强，也遇到不少痛苦的刺激，一些欧美人，见到穿得整齐的黄种人，就以为是日本人，而中国人到处受歧视，受侮辱，他由此激励一种民族的紧迫感：国家不能富强，不能自由平等，那就没办法在世界上争生存，那就没办法在国际间找地位。
张治中回国后，北伐已完成。张治中表示到中央陆军军官学校任职。开始任训练部主任，1929年春，升任教育长。
张治中在军校教育长任内，整整十年，他原以为能像外国教授一样，一辈子搞教育，并以它作为“躲避两党斗争风暴的安静地带”。但由于国内形势的发展，非但说不上一辈子，而且连他10年的任职都不安稳，频频有所变动，其中离校带兵作战就有五次，他所幸的是，没有一次是与共产党作战。
1932年初，日军不断在上海挑衅，寻找侵略借口。
迫于全国人民抗日救国的情绪，国民党政府认为中央军不参战，将使他们在舆论中处于不利地位。因此，张治中又一次从军校调出，被任命为第五军军长，率第八十七师、第八十八师赴沪以十九路军名义抗战。
