解放戰爭時期，汝南是國民黨河南省第八行政區專署和保安團司令部所在地，雖是國民黨的行政要地，但城內只有保安團和縣保安大隊（自衛隊改制）及近鄉的地主武裝，約4000人，沒有國民黨正規軍。攻克此城，可以牽制平漢鐵路南段的敵軍不敢輕易進剿大別山根據地。

1947年6月30日夜，劉鄧大軍一舉突破國民黨的黃河防線，轉入外圍作戰，千里挺進大別山，牽制了大批國民黨軍隊，為我軍全面戰略反攻創立了有利條件，從而拉開了解放戰爭戰略進攻的序幕。

12月，蔣介石為保住中原，以33個旅的兵力，在國防部部長白崇禧的統一指揮下，開始向大別山根據地圍攻。為粉碎敵人的圍剿，劉鄧大軍兵分三路，一路由鄧小平率領，留在大別山堅持反圍剿，繼續拴住敵人；另一路乘虛突入桐柏、江漢地區，威脅敵人后方，開辟新解放區；劉伯承率中原局機關、野戰軍指揮部及第一縱隊進入淮西（淮河以北、沙河以南、平漢鐵路以東）地區，開辟新區。

12月17日，到達淮西的一縱攻克了息縣城，又轉往正陽，從汝南埠渡過汝河，在汝南王崗一帶集結，籌劃攻打汝南城。

12月23日傍晚，一縱各作戰部隊都到達了指定地點。一旅楊俊生、陳開云部為主攻部隊，先解決東關守敵，從東、南兩面攻城；二旅戴潤生、石新安部為佯攻，解決西關、北關守敵后，配合攻城；騎兵團在城西北機動，以防敵人突圍逃跑；二十旅吳忠、劉振國部設伏城西水屯一線，阻擊駐馬店來援之敵。晚8時許，戰斗打響，激戰一夜，拂曉時解決了城外四關的守敵，我軍也暫作了總攻前的休整。

此時，圍困在城內的國民黨黨政軍頭頭趁戰斗間隙召開了緊急軍事會議。會議由專員兼保安團司令謝肖良主持，參加會議的有師管區司令劉明琴、社會服務處處長李華堃、汝南縣長高欽銘、縣黨部書記長李澄清、參議長陶懷琳、副議長兼縣保安大隊司令劉仁齋、警察局長張少楓，還有省軍管區中將副司令溫其亮和新蔡縣長張利民等。

省軍管區中將副司令溫其亮是為兒子的事來汝南的。這年春，國民政府明令地方武裝“國軍化”，縣自衛隊要改制成保安大隊，需添置武器裝備，溫其亮的獨生子溫云若（自衛隊副總隊長）攜購置款一去不回引起公憤，溫其亮為平息此事來汝南，恰遇解放軍圍城。張利民是因新蔡已成為游擊區而流亡汝南。會上，圍繞堅守或突圍一直爭論不休。11時許，謝肖良拿一封電報說：“剛接到張軫（國民黨第五綏靖區司令官兼河南省主席）的電報，他命令我們不可棄城突圍，要與汝南共存亡。不要再爭論了，各人堅守自己的崗位。”隨后，謝肖良又將最后5個中隊的后備隊拉上了城頭。

中午，我軍發起總攻，槍炮齊鳴，彈片橫飛。激烈的炮火持續兩個多小時，摧毀了南城門上的工事掩體，四連突擊隊架云梯強行登城，班長張勝林第一個登上城頭，后續部隊迅速展開，很快打開城門，大部隊沖進城內。接著城東北角又有一批突擊隊員蹚過冰河，從缺口處突入城里，他們赤著腳，褲腿卷到膝蓋上，有的干脆把棉褲系到背上，穿著單褲或短褲，左手提一籃子手榴彈，右手掂著槍，飛快地沿大成街（今行政街）向西沖。隨即，東門、西門也相繼打開，我軍與敵人展開了巷戰。下午近4時，基本肅清了成股頑抗的敵人，我軍開始分頭搜尋暗藏的殘敵。

我軍破城后，國民黨的軍政頭目互不相顧，各自想法逃命。溫其亮換上便衣逃往城西北角（北城門未破），那里炮樓底下有一個暗洞可通城外。剛到洞口，溫其亮就看到謝肖良的司機從洞里鉆出，并告知溫其亮外面已被封鎖，謝肖良出洞不遠就被打死，嚇得溫其亮慌忙躲到附近西水巷一王姓人家的秫稈垛里，被我軍搜索殘敵的戰士活捉。高欽銘逃到后龍亭也被擊斃。這些人大都沒逃脫被斃、被俘的下場，只有少數人躲在熟人家，事后才混出城。黃昏，戰斗全部結束，消滅敵人2000余人。

12月29日，《人民日報》在第一版發表了我軍解放汝南城的消息。戰果公布為“溫其亮以下1725名官兵被活捉，我軍繳獲迫擊炮9門、輕重機槍34挺、長短槍2624支、電臺3部、汽車6輛、子彈10萬余發”。

我軍進城后，立即在群眾和學生中開展了新民主主義性質、任務和方針政策的宣傳，并沒收了官僚資本，開倉濟貧，還鎮壓了民憤極大的國民黨汝南縣黨部書記長李澄清和副議長兼縣保安大隊司令劉仁齋。群眾拍手稱快，城內秩序井然。

不久，國民黨從信陽調集4個師的兵力向駐馬店、汝南一帶反撲，我軍主動撤離汝南城，到汝東一帶開辟淮西新區。此戰役后，我軍始終采取敵來我撤、敵退我進的戰術，使敵人不敢在汝南建立政權，從而達到了震懾敵人、牽制其兵力的預期效果。直到1949年2月4日汝南最后解放，城內一直呈“拉鋸”狀態，敵我雙方基本沒打遭遇仗。