该学堂是直隶总督兼北洋大臣李鸿章，为培养淮军中下级军事人才创办的。聘有德国军事教官，所设课程有兵法、地利、军器、炮台、算法、测绘，并操习炮队，步队、马队、工队及分合阵法，另外还兼学经史。
冯国璋是该学堂第一期学员。在学习期间，他曾回原籍参加科举考试，当时特设数学附生额，因他擅长算术，考中秀才。后返回天津武备学堂继续学习军事。
冯国璋经过刻苦努力地学习，精通枪炮阵式，熟习营垒作业，各科成绩优秀，得到该学堂总办荫昌和德国教官的赏识。
光绪十五年（1889年）七月，冯国璋从该校以优异成绩毕业。当时冯国璋已届而立之年，他不安于现状，想建立军功，出人头地，于是在光绪十九年（1893年）进入聂士成军中效力。
在中日甲午战争前夕，冯国璋曾随聂士成赴东北和朝鲜等地考察和测绘地形。为时半年，跋涉数千里，餐风宿露，历尽艰险。所达之处，对山川要塞均用新法绘图说明，地形地物，了如指掌。所搜集的资料以聂士成之名编成《东游纪程》一书，由冯国璋任注说编辑，及至第二年聂士成率部在朝鲜和东北等地抗击日军时，这部著作发挥了极大的指导作用。故此，冯国璋得到了聂士成的垂青，被任命为该军军械局督办。
甲午战争后，冯国璋得聂士成保荐，以清朝驻日公使裕庚随员身份赴日。冯国璋在日本期间，为考察日本军事，结交了日本军界人士福岛安正、青木宣纯等人，并博览大批近代军事著作，取得了大量有关军事教练的资料。他不舍昼夜，抄录和整理了几大本有关军事训练和近代军事科学发展的“兵书”，冯国璋亦因此大长才干。
光绪二十二年（1896年）冯国璋回国后，将精心整理好的笔记资料呈送聂士成，聂士成又转呈袁世凯。
当时，袁世凯正在积极筹办小站练兵事宜，急需军事教学人才，见到冯国璋所整理的军事资料如获“鸿宝”，遂招冯国璋入小站辅佐编练新军。与冯国璋同时进小站的，还有他在武备学堂时的同学王士珍和段祺瑞等人。
冯国璋在教学中结合实际，深入浅出，深受学兵的拥护和爱戴。未几，冯国璋即被任命为督操营务处帮办兼步兵学堂监督。不久，又升为督操营务处总办。冯国璋鉴于新建陆军初创，在训练工作上应有所遵循，经过精心筹划，与王士珍、段祺瑞等人合力编成《训练操法详晰图说》二十二册，成为随营学堂的标准教科书，也是清朝末年我国军事学校和编练新军的主要教材。
由于冯国璋等人对袁世凯的赤心辅佐，使小站练兵的声誉大振，冯国璋也因得袁世凯重任而一路高升。
冯国璋一生由一介书生而入军界，读文史后再习军事。在他所处那个时代，经历了数次战争，作为一个有着远大抱负的中国一代知识分子，或是身为一名有强烈民族自尊心的军事将领，在军中，冯国璋往往以其深刻的思考和敏锐的见解而出类拔萃。
他两次东渡扶桑，从那个自明治维新以来变得强悍起来的国度中，发现了一条中国富强昌盛，再树雄姿的可行之路。就是打破海禁，引进外国的先进思想和科学技术，让国人重新认识自我，认识世界。
屡屡向上司和清廷进言，并且一直身体力行地为“国家海禁开，东方大事起”这一宏愿而尽心尽力。
但其时其势，这位汉族的清廷重臣也有与当年李鸿章相似的忧虑和顾忌。眼看着京城里那个冥顽不化的满清朝廷，还有早已腐败不堪的各级衙门地方官吏，落后的农桑耕作制和淤堵不扬的贸易商业，还有几乎空白的现代工业这副积重难返的烂摊子，就决定了真正要在东方这块古老的土地上形成“大事起”的强盛之势，非一朝一代人所能办到的。因此，冯国璋把希望放在了儿孙辈身上。
在护国反袁中，冯国璋一面向袁世凯迭电密陈请“勿轻开战祸”，一面通过梁启超、胡鄂公等人与西南唐继尧、陆荣廷信使往来，以促使西南独立和陆荣廷攻击广州，逐驱袁世凯死党龙济光；同时，又劝说四川的北洋军与护国军停战，并且指使四川、湖南将军陈宦、汤芗铭通电拒绝袁世凯的命令。
不仅如此，冯国璋还主动联络江西李纯、浙江朱瑞、湖南汤芗铭、山东靳云鹏等将军联名发出密电向各省将军征求收拾时局的意见，时称“五将军密电”。其电文内容，要求南方者：（一）取消独立，（二）退出战区，（三）保护战地人民。要求北方者：（—）取消帝制，（二）惩办帝制罪魁，（三）请元首自行辞职以觇全国人民之意思。
也就是说，无论动机如何，为保卫民主共和，冯国璋是有贡献的
冯在总统任内一心想谋求和平统一，这同样是值得肯定的。
冯国璋当大总统的时候闹了一个大笑话，这就是“卖鱼事件”。据传，中南海的鱼是前代皇家所放养，其中还有一条三尺长的红鱼和一条大鲤鱼，上面系着金圈，挂着金牌，一向就不曾为人所捕捞。冯国璋入主中南海后，派人将湖中的鱼一网打尽，然后命人在市场上高价卖出。一时间北京各处都在叫卖“总统鱼”，而所售之款尽入了冯国璋的私人腰包。当时有人写了一个对子嘲讽说：“宰相东陵伐木，元首南海卖鱼！”
冯国璋打仗是一把好手，可政治方面却基本上是个榆木脑袋。他号称是“北洋三杰”龙虎狗中的“狗”，还真有点忠犬护主的劲头儿。在战场上他只想着打胜仗，保住清王朝，根本没领会东家袁世凯的政治意图。出发前袁世凯给他的六字箴言是“慢慢走，等等看”，可他到了武汉就一鼓作气连下两镇。
冯国璋一生，最受谴责的是在镇压武昌起义时火烧汉口。那一年的十一月一日，冯国璋借风势命令士兵放火，烈火由北而南，由东而西，一时间整个汉口便成了火海，三天三夜未熄，使方圆三十里的繁华商埠倾时成为一片焦土，商民损失不可计算。
孙中山去武昌凭吊首义之城时，被烧毁的汉口还惨不忍睹。