在练兵期间,冯玉祥根据之前旧式部队的种种陋习,对兵操进行了改革,还编撰了《战斗动作歌》《射击军纪歌》和《利用地物歌》来教习新军。5月中旬,冯玉祥被派往京西三家店守护陆军部军械所,驻防之后,冯玉祥成立了头目讲堂、官长讲堂和特别兵讲堂,以及拳击技术班、器械体操班,并编了一本八百字课,为新兵启蒙之用。在三家店驻防半年之后,冯玉祥所部又被调往平则门旧火药库驻防,在此期间其所部在年末会考时取得第一名,从而遭到其他部队的嫉妒和抨击,冯玉祥乃作《精神歌》《国耻歌》和《爱百姓歌》来激励士兵。到1913年春,冯玉祥部又调回三家店,是年秋天,左路备补军又另成立左翼第一团和左翼第二团,冯玉祥奉令招编左翼第二团,冯玉祥遂又往河南郾城一带招募新兵。新兵招募完成后,冯玉祥便奉命在北苑练兵,三个月后又被调至东城东四禄米仓驻防。
1914年,为了镇压在河南、陕西一带的白朗起义,北洋政府任命陆建章为剿匪督办,将原来的备补军改编为警卫军,冯玉祥部被扩编为警卫军左翼第一旅,任命冯玉祥为旅长兼第一团团长。部署完成之后,即命其到渑池待命,此后,冯玉祥部便驻守西北,以此成为西北军的开端。1915年,冯玉祥部奉命入川,遂率部跋涉剑阁蜀道进入四川。