第10軍（抗戰勝利後整編爲整編第3師）自衡陽保衛戰首次全軍覆沒後，就一直在殲滅和重建的循環中。該軍在1946年9月的定陶戰役中被殲滅，次年12月在祝王寨、金剛寺戰鬥中又被殲滅，兩次覆滅的原因也很相似，都是因爲孤軍深入被解放軍包圍後遭到重兵圍殲。

祝王寨、金剛寺戰鬥中，整編第3師指揮層幾乎被一鍋端了，除師長李楚瀛成功逃出外，其余的高級將領不是死了就是當了俘虜。整編第3師副師長路可貞被俘，整編第3旅旅長雷自修和整編第20旅旅長譚家範陣亡，這導致在重建整編第3師時困難極大。

整編第3師在後方留有整編第3旅第8團的1個營和第9團，此外戰後在鄭州收容整編第3師的軍官485人、士兵869人，官兵比例差距這麽大，主要是因爲解放軍是俘虜政策。當時解放軍釋放俘虜的標准爲：副團長以下凡軍校畢業的都釋放，行伍出身、身體強健、有點文化的尉官不放，士兵老弱的釋放，士兵身體強壯的不放。

由此可以想象，在鄭州收容起來的官兵都是怎麽樣的貨色，老弱病殘肯定很多。一支部隊失去了大量骨幹老兵，即便有足夠軍官也沒有辦法迅速恢複戰力的。想要把整編第3師重建起來，就只能以留守在後方的那1個團又1個營爲核心進行重建，這些部隊新兵比例也不低。

1948年1月，整編第3師在河南漯河再度重建，師長李楚瀛因指揮不利被撤職，原整編第3師殘部被縮編整編第3旅，由張桐森擔任旅長。張桐森長期在第2軍任職，與第10軍似乎沒有多大淵源。整編第20旅當時雖然也重建了，但不再隸屬于整編第3師。

除了整編第3旅外，重建的整編第3師還下轄整編第18旅和整編第49旅，其中的整編第49旅也是重建部隊，該旅在1947年4月被殲滅過。而整編第18旅的來頭就大了，是整編第11師的基本部隊。

隨著整編第18旅的加入，意味著整編第3師已經爲陳誠的土木系所掌握。

解放戰爭到了1948年初，國民黨軍隊的頹勢越來越明顯，大量部隊被解放軍成建制殲滅，有戰鬥力的部隊越打越少，重建的部隊不堪一擊。爲了重振國民黨軍隊的士氣和提升重建部隊的戰鬥力，決定用原有戰鬥力較強的部隊來負責訓練重建起來的部隊。

如整編5師幫助重建在魯西南戰役中被殲滅的第整編第70師，爲此整編5師把整編第96旅調入整編第70師，使之成爲戰鬥核心。整編第2師幫助重建鎮嵩軍整編第15師，整編第2師的辦法是抽調整編第2師的軍官進入整編第15師，原整編第9旅旅長陳克非就短暫擔任過整編第15師的師長，而不是直接抽調部隊。

整編第11師和整編第5師的方法差不多，把該師主力部隊之一的整編第18旅直接調入整編第3師，並由第18軍老人覃道善擔任師長。由于整編第11師給出了完整的1個整編旅，使得整編第11師只下轄整編第11旅和整編第118師，在一定程度上削弱了該師的戰鬥力。

到了1948年8月，鑒于整編第3師戰力已經恢複的差不多了，就把該師的整編第49旅改隸整編第11師。整編第49旅這個部隊後來的事情還頗爲傳奇，該部由于是外來戶且戰鬥力不強，使得這支部隊沒有跟隨第18軍主力一起行動，莫名其妙成了漏網之魚，而時任師長何竹本也是幸運之人。

此人抗戰時長期在第10軍任職，第10軍增援常德時預10師師長孫明瑾陣亡，作爲參謀長的何竹本雖然也身負重傷卻沒有死，衡陽保衛戰和之後的定陶戰役，他都沒有出意外，繼任他擔任整編第3旅旅長的雷自修卻是死在了祝王寨、金剛寺之戰中。

同年9月，國民黨軍隊把整編師、旅番號恢複回軍、師番號，整編第3師改稱第10軍，另外新編入第75師。第75師雖然是新組建的部隊，但卻混合了第18軍的辎重團和搜索團，國民黨軍王牌的直屬部隊也具有一定的戰鬥力，並不是什麽魚腩部隊。

但此第10軍早已今非昔比，在改回番號過程中，就連有悠久曆史的整編第3旅（原第3師）都只能改成第114師。只因第3師的番號被搶了，在1948年5月，整編第42旅就提前拿下第3師番號。

淮海戰役開始後，黃維的第12兵團奉命參戰，經過第18軍的整訓，第10軍可以算是第12兵團的第二號主力。

在被黃維寄予厚望的突圍行動中，第10軍一個軍就用上了第18師和第114師。由于廖運周帶領第110師臨陣倒戈，再加上黃維兵團中戰鬥力最弱的第14軍遭到解放軍攻擊而崩潰，致使突圍行動還沒有開始就宣布失敗。

第10軍迅速從攻勢轉入守勢，並派部隊掩護收容第14軍殘部，擊退解放軍的進攻。在雙堆集包圍圈內，第10軍和第18軍一樣頑強，與解放軍進行一莊一莊的反複爭奪，直至拼光最後一個人。打到最後，即便是戰鬥最多的一個團也不過只有3、400人。

1948年12月15日，黃維下令第12兵團全體分散突圍。第10軍的突圍計劃是：第18師、第114師和軍部向東北突圍，第75師向東南突圍。

還有點力量的第18師，在師長尹俊的指揮下勉強打開了一個突破口，最終突出重圍，第18師突圍成功的人數是黃維兵團中最多的。而跟在後面的第114師殘部和軍部沒有及時沖出去，軍長譚道善和第114師師長夏建勳成爲了解放軍的俘虜，另外第75師師長王靖之在突圍時身負重傷，被解放軍用擔架送到國民黨統治區。

第10軍在雙堆集第4次覆滅後，國民黨軍盡管又在江南把第10軍的架子搭了起來，但很快就因兵員不足而壽終就寢。