國民革命軍第二軍是北伐戰爭時期國民革命軍主力部隊之一。第2軍前身為北伐時蔣介石親兼軍長的國民革命軍第1師。蔣鼎文、李延年、王凌云、陳克非等先后擔任該軍軍長。該軍兵員充足，全部為美械裝備。國軍部隊大多守強于攻，第2軍以善于攻擊馳名。

　該軍的前身一部為黃埔軍校教導團。1924年4月，黃埔軍校教導團編為黨軍第1旅。1925年8月，該旅擴編為第1軍第1師，1929年1月，第1師改編為第9師；該軍前身另一部師浙軍第2師。1926年12月，浙軍第2師改編為國民革命軍第26軍。1929年1月，該軍縮編為第6師。

　1929年10月，蔣桂戰爭結束后，蔣介石以第6師與第9師合編為第2軍，蔣鼎文任軍長，陳誠任副軍長。下轄：第6師，趙觀濤任師長；第9師，蔣鼎文兼任師長；第11師，陳誠兼任師長；獨立第4旅，羅霖任旅長。該軍編成后隸屬第2路軍，于11月初參加了討伐西北軍的作戰。1930年5月，該軍參加了中原大戰。此時，第11師調歸第2軍團建制。該軍轄第6、第9師，隸屬第3軍團建制。

1931年6月，該今年奉命參加對中央蘇區的第3次“圍剿”。此時，第6師調出組成第1路進擊軍。第2軍僅轄第9師，軍長蔣鼎文兼師長。同年9月，該軍第9師先頭部隊第27旅進至江西老營盤地區被紅軍殲滅。10月，該軍奉命移駐上饒，并協同第79、第53、第55師等部向贛東北革命根據地進犯。1932年6月，該軍軍長蔣鼎文辭去師長兼職，由李延年調任第9師師長。1933年2月，該軍開赴江西，編入中路軍第3縱隊，參加對中央蘇區的第4次“圍剿”。同年9月，第1軍第3師調歸第2軍建制。此時，該軍轄第3、第9師。10月，該軍編入贛粵閩湘鄂“剿匪”北路軍第2路，參加對紅軍的第5次“圍剿”，向閩西紅軍進犯，被紅軍殲其1部。1934年10月，中央紅軍主力長征后，該軍參加了對留在福建的紅軍游擊隊的“清剿”。此時，該軍隸屬駐閩綏靖公署，并將駐閩綏靖公署第80師撥歸該軍建制，仍由蔣鼎文任軍長，下轄：第3師，李玉堂任師長；第9師，李延年任師長；第80師，陳琪任師長。

1937年7月，抗日戰爭全面爆發后，蔣鼎文升任第4集團軍總司令，李延年接任第2軍軍長兼第9師師長。同年9月，該軍由福建開赴上海，隸屬第15集團軍，參加了淞滬會戰。1938年春，該軍開往魯南，參加了臺兒莊對日作戰。戰后，該軍撤至漯河地區整訓。同年6月，該軍第3師調歸第8軍建制。9月，第89師調歸100軍建制。同時，另將140師調歸第2軍建制。此時，李延年任第11軍團長兼第2軍軍長，陳應龍任副軍長。下轄：第9師，鄭作民任師長；第140師，宋思毅任師長。此次建制調整后，該軍即開赴湖北田家鎮要塞與日軍作戰。11月，開赴湖南衡陽一帶整訓。

1939年初，國民黨軍進行整編，該軍第140師改隸第37軍建制，另將第86軍第103師改隸第2軍建制。此時，該軍轄：第9師，鄭作民任師長；第103師，何紹周任師長。1940年1月至2月，該軍先后參加了桂南作戰和昆侖關作戰。第9師師長鄭作民在昆侖關作戰中殉國，由張金廷代理師長。3月，該軍移師湖北恩施、巴東地區整訓，隸屬第6戰區。4月，第103師調歸新編第11軍，另將第79軍第76師和新編第33師調歸第2軍建制。此時，該軍下轄：第9師，張瓊任師長；第76師，王凌云任師長；新編第33師，張世希任師長。此后，該軍相繼參加了宜棗會戰和第2次長沙會戰。

1942年6月，第2軍軍長李延年調任第1戰區第34集團軍副總司令，由王凌云任軍長，張瓊、鐘松任副軍長。下轄：第9，第76師和新編第33師編制不變。此時，該軍由湖北調往云南，隸屬昆明防守司令部，集結于川、滇之間，擔任守備。1943年10月至1945年6月，該軍隸屬中國遠征軍第11集團軍，先后參加了中國遠征軍第1次入緬作戰、滇西反攻作戰和第2次任緬作戰等。在第2次入緬作戰后，該軍留置中緬邊境，擔任國境守備。隸屬中印公路東段警備司令部。1945年6月，該軍新編第33師撤消，另將第6軍預備第2師撥歸該軍建制。此時，王凌云任軍長，鐘松、張金廷任副軍長。下轄：第9師，陳克非任師長；第76師，劉平任師長；預備第2師，顧葆裕任師長。同年8月，日本投降后，該軍移防云南大理，隸屬云南省警備總司令部。

1946年5月，國民黨軍進行整編時，將第2軍改編為整編第9師，原軍長王凌云改任師長。原下轄：第9、第76師和預備第2師，依次改編為整編第9旅，陳克非任旅長；整編第76旅，劉平任旅長；預備第2旅，楊寶谷任旅長。1947年2月，該師從云南調至華東戰場后，預備第2旅改為整編第46旅。同年4月，蔣介石對山東發起重點進攻后，該師編入歐震的第3兵團，先后參加了泰蒙、孟良崮、南麻臨朐、膠東等戰役。在膠東戰役中，該師被華東野戰軍殲其一部，殘部逃向青島。11月，整編第9師師長王凌云被免職，由陳非克繼任師長。12月，王凌云升任河南南陽第13綏靖區司令官，第2軍即由青島船運河南，擔任南陽地區守備。

1948年5月，該軍在參加宛西，宛東戰役中，被人民解放軍殲其一部。10月，整編第9師恢復第2軍番號，隸屬第13綏靖區。陳克非任軍長，下轄：第9師，尹作干任師長；第76師，劉平任師長。同時，將原轄第46旅改隸第5軍建制。此時，該軍轄第9師，蔣治英任師長；第76師，張桐森任師長；第164師，李劍霜任師長。該軍恢復編制后，奉命南撤。于11月下旬抵達鄂西，擔任守備宜昌。不久新組建的第164師撥歸該軍建制，李劍霜任師長。1949年7月上旬，第4野戰軍第13兵團發起宜沙戰役。該軍放棄宜昌，向鄂西山區撤退。解放軍即發起追擊，殲其一部。同年9月，陳非克升任第20兵團司令兼第2軍軍長。11月，第2野戰軍和第4野戰軍一部在南起貴州天柱，北至湖北巴東500公里的地段上對敵實施多路進攻。位于湘鄂西地區的宋希濂集團猝不及防，慌忙西撤。解放軍即進行追擊攔截。至12月下旬，將宋希濂指揮下的第14、第20兵團大部殲滅。陳克非率第20兵團及第2軍殘部逃至成都附近后，于12月25日，在彭縣宣布起義。