年，德国军事顾问团在第一任总顾问马克斯·鲍尔上校带领下来到中国，此行目的主要为销售军火。德国在一战后，经济崩溃，资源匮乏，而中国尚未统一，地方军阀林立，日后必然需要大战武力统一，国民政府正好缺乏武器装备，于是双方一拍即合达成协议，中国以资源换取德国武器。年5月，鲍尔感染天花而亡。年11月，中原大战结束，南京国民政府进而掌控了全国除西北、新疆、西藏、东北、华北、两广、蒙古以外土地，收编了大量地方军队，统一全国财政，中国完成了名义上的统一。军队虽然都收编了，但是各派系林立，在国军内部出现了中央军和收编的地方军不合勾心斗角局面。年，国民政府财政部长宋子文成立税警总团。原目的为打击走私，但在宋子文经营下，税警总团成为当时中国装备精良、最现代化部队。年，在当时的第二任总顾问乔治·魏泽尔中将的建议下，中央教导总队成立，该部队主要用于由德国教官训练后下放到各个部队担任骨干。年，魏泽尔提出以魏玛共和国陆军为模板，改编整理六个师，分别是陆军第2师、第3师、第9师、第25师、第87师及第88师，编制为两个旅，每个旅下辖两个团。整理师中装备训练最完整的就是第87师和第88师。

年1月28日，第一次淞沪会战爆发。当时驻守上海的为十九路军，蒋介石派遣张治中率领第87师、第88师和教导总队组成第五军进入上海协助十九路军。2月，战事进入焦灼，两方开始不断增兵，蒋介石进行全国动员，3月1日，日军登陆太仓，十九路军为避免被日军合围开始撤退。3月3日，日军停止进攻，双方进入对峙状态。3月20日，英美法意各国开始介入调停。5月5日，双方签署《淞沪停战协定》。该条约规定日军撤回租界，国军禁止进入上海，上海成为非军事区。此条约对于国民政府极为不利，也为未来第二次淞沪会战埋下伏笔。这也是德械师第一次出战对抗日军。

年，魏泽尔与蒋介石不合，德国方面便派遣了第三任总顾问汉斯·冯·赛克特上将。此人被誉为德国国防军之父，他虽然只来任一年，但是却深得蒋介石喜爱，他的到来为国军进行现代化改革奠定了基础。赛克特到达中国后便于6月6日视察了中国驻长城部队，并在6月30日向蒋介石提出了陆军改革计划。计划主要为：一、军队要置于蒋介石的绝对控制之下，只有在这种情况下政府才能建立起权威；二、必须建立一支人数少、训练有素、装备精良的军队，当前的中国军队人数过多，建议仿效德国军队的军官团，在中国军队中建立教导旅；三、中国兵工厂的产能远不足其军队所需，应逐步建立起自己的军工业，可在“欧洲军火公司”的帮助下进行；四、需增加在华德国顾问的人数，为提高其组织效率，需要进行必要的组织变动。赛克特指出国军只需要60个师即可，只要装备足够，良好训练便足以应对各种战争。年1月，德国成立合步楼公司，德国国防军直辖公司，专门负责与中国的军火销售。8月23日，国民政府财政部长孔祥熙与合步楼公司签订《合步楼条约》，中国以中钨、锰、锑等战略物资换取德国军火。年，赛克特因身体问题离华，走之前推荐亚历山大·冯·法肯豪森上将为第四任总顾问。年12月27日，赛克特于柏林病重去世，国民政府在南京为其举办隆重的追悼会。

在日本不断地逼近下，中日之战似乎是不可避免了，法肯豪森于年向蒋介石提出将四川作为大后方，放弃沿海地区，沿平汉线（北平至武汉）设防的防御理念，国民政府根据其建议进行军备建设和布防。年，在法肯豪森的帮助下，国军开始规划调整20个师。第一批调整的为第2师、第11师、第14师、第25师、第36师、第57师、第67师、第87师、教导总队和第2师补充旅。第二批调整的为第3师、第4师、第6师、第9师、第10师、第27师、第80师、第83师、第88师、第89师。教导总队扩编为师级规模并于37年扩编为三个旅六个团，总队长为桂永清，参谋长邱清泉。该部队对兵员素质要求极高，所有中高阶军官均派往欧美留学深造。调整师编制为一个师下辖两个旅，每个旅下辖两个团，每个师配属一个炮兵营（配备山炮或者野战炮12门）、一个骑兵连、一个工兵营、一个辎重营、一个通讯营。每个师装备迫击炮24门、重机枪74挺、轻机枪挺。虽然调整师并未按照制定的计划配备武器装备，大多数部队并未满员满装备，但已经是当时中国战力最强的部队。原计划按照赛克特提出的整训60个师，但是随着七七事变，计划被迫停止。至此一共整编了20个调整师和税警总团，然而只有教导总队、第36师、第87师和第88师装备了全德械，其他部队只装备了部分德械，其余武器装备仍为国产和购买的其他国家武器。

年7月7日，中日爆发全面战争。法肯豪森提出建议，华北平原无险可守，上海河网密布有利于中国军队作战。同时蒋百里也建议，上海日军不利于部署大规模军队，我军应当主动出击以优势兵力歼灭驻扎在上海的日军。8月10日，日军开始往上海增兵。年8月13日上午，日军发起试探性进攻。张治中立即率领第九集团军进驻上海市区布防，日军由租界发起进攻，第二次淞沪会战正式爆发。当日，国军第88师向日本驻上海海军陆战队总部发起进攻，但有日本第三舰队的驱逐舰在海上炮击支援，国军进攻受挫。8月14日，蒋介石下达总攻命令。8月15日至18日，国军第87师、第88师以及上海警察、保安队进攻日军损失惨重。8月18日，蒋介石下令停止进攻，妄图请求英美法德意五国介入调停，日方拒绝。8月20日，国民政府组建第三战区，以冯玉祥为司令长官。在陈诚的劝谏下，蒋介石最终同意继续打并向上海增兵。8月22日，日军松井石根大将率领第3、第11师团和第13、16师团各一部登陆吴淞、川沙。当晚，第五集团军全线进攻，但由于日军舰队炮击强度过大以及各部配合问题，进攻受挫。8月23日，日军第11师团进攻罗店，陈诚亲自率领第15集团军驻守。同日，美国再次介入调停。8月24日，国军反攻吴淞，然日军有海军舰炮支援和空军轰炸，国军无法将吴淞地区五千日军击退。8月26日，日本外相广田向全世界宣布要与中国进行战争，给予中国沉重打击使之屈服。8月29日，法肯豪森建议国军死守罗店，然当天，罗店失陷。8月30日，英美法再次介入调停，日本再次拒绝。8月31日，国军再次进攻吴淞失败，至此，淞沪会战国军逐渐陷入劣势开始进入防守阶段。

9月1日，日军发起全面进攻。9月9日，日本进行全国总动员。9月14日，日军经过不断增兵，兵力已达12万，已经和国军在沪军队数量一样了，国军不再有兵力优势。9月15日，国军撤离江边，围绕上海北站组建防线。9月20日，蒋介石亲任第三战区司令长官，同时组建第十九集团军增援上海。9月21日，淞沪战场国军有第五、第九、第十九集团军，包含12个调整师、教导总队和税警总团。日军有第11、第3两个整师团及第13、第16、第、第9师团各一部。9月27日，日军第9师团登陆吴淞。9月30日，日军发起全面进攻，国军防线溃败。10月，双方继续向淞沪增兵，国军伤亡已达六万。10月19日，日军再次发起全线进攻。10月30日，国军撤离上海北站防线。11月7日，国军沿嘉兴、苏州以东设防。11月11日，国军撤离淞沪地区，淞沪会战结束。淞沪会战国军以调整师为进攻部队对日军进行进攻屡次受挫损失惨重，大量部队无法补充兵员以及装备。

11月15日，国民政府开始迁都重庆。同日，日军各师团进行补充修整开始向南京进攻。陈诚和白崇禧建议南京为不设防城市遭蒋介石拒。11月20日，苏州失守。11月24日，蒋介石任命唐生智为南京卫戍司令，南京保卫战打响。此战国军防守部队均为从淞沪战场撤下来的残部，各部兵员装备严重不足无法补充，仅有教导总队、第36师、第77师和第88师有战斗力，总兵力也仅有八万人。日军集结了二十万兵力从三面合围南京，南京已成孤城，无援军相救。12月8日，日军达到南京外围。同日，唐生智下令各部队放弃外围阵地进入城内防守。12月9日，日军向唐生智劝降遭拒。同日，唐生智下令收缴所有船只，禁止任何部队撤离南京。12月10日，日军进攻南京。12月11日，蒋介石向唐生智下令撤退。12月12日凌晨，唐生智开始制定撤退计划。同日，南京紫金山和雨花台沦陷，守军全部殉国。当晚，唐生智召开会议，向各部下达撤退命令过奖撤退。12月13日凌晨，国军各部开始突围。然而防守江边的第36师宋希濂部并未收到撤退命令，仍依唐生智之前命令禁止任何部队撤退，误以为撤退部队是擅自撤离而用机枪扫射，国军开始混乱。同日早晨，日军进入南京，随后六周内对南京进行惨无人道大屠杀。年1月，突围的各部国军加起来仅有数千人。至此，调整师已大部分殉国退出历史舞台。

年，德国因与日本结盟而召回法肯豪森和德国军事顾问团，停止一切对中国的援助。离别前，法肯豪森向蒋介石表示不会透露国民党的军事部署和作战计划。年，法肯豪森出任德国驻比利时占领区总督。年，法肯豪森因为反对希特勒，参与了刺杀希特勒行动而被捕。战后他被指控参与屠杀犹太人和战俘判处了12年有期徒刑。判决三周后，钱秀玲和一批比利时犹太人为法肯豪森辩护，有充分证据表明其曾极力解救犹太人和比利时人，西德总统便对他特赦。晚年的法肯豪森还担任中德文化协会会长。年7月31日，法肯豪森于拿骚去世。