1948年7月31日，冯玉祥夫妇偕子女、秘书等自纽约登上苏联邮轮“胜利号”，准备返回国内参加新政协会议。9月1日，船在黑海海面距苏联港口敖德萨不远处时突然着火，浓烟四起。冯玉祥及女儿冯晓达避之不及，不幸罹难，冯夫人李德全、儿子冯洪达等烧伤。消息传来，举世震惊，毛泽东、朱德、周恩来及各进步党派、人民团体、友好人士等纷纷向李德全致电慰问。11月2日，李德全怀抱冯玉祥骨灰盒抵达哈尔滨。1949年9月1日冯玉祥逝世一周年之际，首都各界代表六百余人前往帅府园艺专礼堂，隆重举行了追悼会。大会由民革中央主席李济深主持，周恩来出席并致悼词。毛泽东亲笔题写挽词：“冯玉祥将军逝世周年纪念谨致悼意”。

中华人民共和国成立后，人们从未忘记这位“置身民主，功在国家”的著名将领。1951年11月，中央人民政府委员会办公厅副主任、中央人民政府典礼局局长余心清提出，“冯玉祥先生的骨灰迄未安置，冯夫人又未便提出，搁延至今；冯夫人拟把冯的骨灰葬在泰山，须派一工程师去泰山勘察并设计，然后请山东省政府帮忙开工。”中共中央统战部副部长徐冰闻言，深以为然，遂请余心清写个材料，以便办理。

11月24日，徐冰就此事请示周恩来，建议同意余心清的意见，“电知山东省政府协助处理，必要时，亦可派余心清去山东泰山一趟。”11月27日，周恩来批示：“送维汉一阅。可以葬在泰山，也可以葬在北京。”时任中共中央统战部部长、政务院秘书长李维汉阅后，将此事交给徐冰和余心清办理。次日，徐冰即向余心清转达了总理批示，并请他与冯玉祥将军遗孀、卫生部部长李德全商量“将冯先生的骨灰葬在北京还是葬在泰山。请她决定后，再着手办理，并希将商谈结果告我”。经征求李德全意见，决定将冯玉祥骨灰葬在泰山。

1932年3月至10月，1933年8月至1935年10月，冯玉祥两度隐居泰山西麓，发奋读书的同时，为坚持抗战积蓄力量、储备人才。冯玉祥秉持爱国立场和民本情怀，营救、掩护抗日志士，出资办义学、慰农户、修石桥、建凉亭、种苹果、凿清泉，布衣蔬食一如平常，与泰山民众相处甚洽，被当地百姓亲切地呼为“老先生”。1941年11月恰逢冯玉祥六十寿辰，周恩来亲撰祝寿词致贺，言及冯玉祥“在不得志时，从未灰过心，丧过志。在困难时，也从未失去过前途”，其中就包含着对他遭受挫折隐居泰山时自强不息精神的赞许。而今革命胜利，将其骨灰安放于泰山，既是尊重冯玉祥生前遗愿，亦是告慰其在天之灵。

1953年4月，历时9个月的冯玉祥墓地工程终于竣工，此后的工作重心转为筹备于秋季举行冯玉祥骨灰安放仪式。

新落成的冯玉祥墓采用泰山花岗石砌成，远望巍巍似石墙。墓壁正面中央，嵌有冯玉祥侧面浮雕头像，上书政务院副总理郭沫若题写的“冯玉祥先生之墓”七个大字，下方为一块黑色磨光花岗石，刻有冯玉祥自题诗《我》。1953年10月15日，冯玉祥骨灰安放仪式在泰山大众桥旁墓地隆重举行。1988年1月，“冯玉祥墓”被国务院公布为“全国重点文物保护单位”。（《泰安晚报》）