抗日戰爭勝利後，聶榮臻繼續任晉察冀軍區司令員兼政治委員、中共晉察冀中央局書記。1947年4月，他指揮正太戰役，置增援之敵於不顧，集中優勢兵力，擊敵薄弱環節，殲國民黨軍3.5萬餘人，攻克正太路沿線7城及井陘等重要礦區，使晉察冀與晉冀魯豫解放區連成一片。同年11月又在清風店戰役中取得重大勝利。聶榮臻稱這一仗是晉察冀軍區軍事上的“翻身仗”。清風店大捷，使守備石家莊的國民黨軍更加孤立，當時僅存2.4萬餘人，且軍心不穩，而晉察冀野戰軍的戰鬥力空前提高。乘勝奪取石家莊勢在必得。1947年10月22日，聶榮臻等軍區領導立即向中央軍委、中央工委提出:“現石門(即石家莊)僅有三個正規團及一部雜牌軍，我擬乘勝奪取石門。軍委是否批准此方針，請即復。”
次日，10月23日12時，中央軍委覆電聶榮臻等批准攻打石門的建議。電文稱:“二十二日十二時電悉。清風店大殲滅戰勝利對於你區戰鬥作風之進一步轉變有巨大意義。目前如北面敵南下，則殲滅其部，北面敵停頓，則我軍應於現地休息十天左右，整頓隊勢，恢復疲勞，偵察石門，完成打石門之一切準備。然後，不但集中主力九個旅，而且要集中幾個地方旅，以攻石門打援兵姿態實行打石門，將重點放在打援上面。”石家莊，位於石德、平漢、正太三條鐵路交會處，是華北戰略要地。國民黨軍在原侵華日軍構築的工事基礎上，經連年加修，至1947年已構成完備的環形防禦體系。
從市郊到市中心，以寬8米、深6米的外市溝和寬深均5米的內市溝及市區主要建築物爲骨幹設置了3道防禦陣地，共有大小碉堡6000多個。內外市溝間的環形鐵路有6輛鐵甲車，並配有1個坦克連，可機動作戰。市東北有制高點雲盤山作依託，西北有軍用飛機場便於空中支援。憑藉着深溝層層，碉堡林立，國民軍得意地揚言:“共軍休想拿下石家莊，國軍憑着石家莊的工事可以坐打三年!”聶榮臻認爲，石家莊雖然設防堅固，但仍有取勝的把握。他說:“我們也知道石家莊是設防城市，可是設防再堅固，也要兵來守，兵不多是不行的。再說即使打不下來，也沒有什麼危險，四周都是解放區。
何況不論從兵力上、士氣上看，打下的可能性很大所以決心打石家莊是對的。鑑於石家莊敵人設防的堅固，聶榮臻要求前線野戰軍領導認真研究對策避免造成久攻不克的局面。1947年10月，駐守石家莊的國民黨軍爲第3軍第32師及2個保安團和附近19個縣的保安大隊。11月初，保定“綏靖”公署將其獨立團和駐保定的第3軍炮兵營空運至石家莊，使石家莊守軍總兵力增至2.4萬餘人。守軍部隊統一由敵第32師師長劉英指揮。根據中央軍委的指示，野戰軍前線委員會於10月25日召開旅以上幹部擴大會，具體研究區分作戰任務和部署戰的準備工作。朱德總司令出席了這次會議。
他提出“勇敢加技術”的號召，並與野戰軍司令員楊得志、政治委員羅瑞卿、第二政治委員楊成武等研究制定了作戰計劃，確定以陣地戰的進攻戰術爲主要方法”，採取穩打穩進的方針;以坑道作業接近碉堡，用炸藥爆破，輔以炮擊，各個摧毀守軍工事及內、外溝;繼以步兵突擊，奪取守軍各道陣地攻打石家莊的具體部署是:第3、第4縱隊分別由西南和東北方向擔任主攻;冀晉、冀中軍區部隊各一部分別由西北和東南方向助攻;第2縱隊、獨立第9旅及第3、第9軍分區部隊配置於定縣(今定州)、新樂間構築防禦陣地準備阻擊保定方向的援敵;察哈爾(今分屬內蒙古和河北)軍區獨立第4旅出擊北平(今北京)至保定鐵路沿線，配合主力作戰。同時，將清風店戰役中俘虜的近千名國民黨軍官兵經教育後釋放回石家莊以瓦解守軍士氣。晉察冀解放區政府調集民兵、民工近10萬人，擔架1萬多副，大車4000餘輛支援作戰。
11月5日，聶榮臻與野戰軍司令員楊得志通了話，指示攻打石家莊要力求速決，但指揮上不要太急，入城後部隊堅決執行黨的城市政策;要反覆向部隊講清楚，戰鬥會是相當艱苦的。他還囑咐楊得志和羅瑞卿楊成武、耿飈、潘自力等指揮員注意自己的安，說:“你們習慣於靠前指揮，這我不反對，但是一定要注意安全。7日晨，冀晉軍區獨立第1、第2旅分向石家莊東北、西北兩面出擊舉攻克大郭村飛機場，殲守軍1個營。8日晨，第4縱隊連續突擊，攻克雲盤山，至此全部掃清了外市溝以外守據點。同時，野戰軍炮兵擊中發電廠，斷絕了市區及內、外市溝電網的電源。各部隊在火力掩護下進行近迫作業，構築交通壕，直插外市溝前沿。8日下午，炮兵部隊實施火力急襲，突擊隊以坑道爆破和強行突破的方法，向守軍外市溝防禦陣地發起攻擊。第3縱隊第7旅首先從西兵營突破，攻克西焦、城角村和農業試驗所，殲守軍一部，擊毀鐵甲車1列;第3縱隊第8旅突破外市溝陣地後，攻佔振頭鎮、西里村;第4縱隊第10旅由雲盤山以西突破，攻佔義堂村、花園村及八里莊，殲保定“綏靖”公署獨立團主力;第4縱隊第12旅在北宋附近破，攻佔範談村;冀中軍區獨立第7、第8旅攻佔東三教、槐底村;冀中軍獨立第1、第2旅包圍北焦等據點。
戰至9日晨，內、外市溝之間守軍陣地，除北焦、苑村、元村彭村等據點外，全部被攻克。攻城部隊隨即以一部兵力圍困、監視上述據點，主力繼續向內市溝守軍陣地推進。10日16時，攻城部隊在強大炮火配合下，向內市溝防禦陣地發起攻擊。第8旅率先爆破成功，從西面突破，經反覆爭奪，攻佔西南兵營、東里村，殲守軍第96團主力。第10旅從東面突破後，連續打退守軍第94團在坦克掩護下的7次反撲，鞏固了突破口，並迅速向鐵路以東市區發展。冀中、冀晉軍區部隊殲元村、彭村、北焦守軍。10日、11日，擔任第二梯隊的第4縱隊第11旅、第3縱隊第9旅相繼加入戰鬥。各部隊勇猛穿插，分割圍殲，經過激烈巷戰，殲滅守軍大部，並將守軍殘部壓縮於火車站、大石橋和正太飯店一帶核心陣地內。12日晨，晉察冀野戰軍調整部署。第11旅炸燬鐵甲列車，並在繳獲的坦克、火炮掩護下向守軍核心陣地發起衝擊，攻佔火車站和正太飯店。接着第3縱隊主力從西面和南面第4縱隊從東面和北面冀晉軍區部隊從西北面，向守軍指揮中心大石橋發起攻擊。激戰至中午，全殲守軍，俘敵第軍第32師師長兼石家莊警備司令劉英。隨後，冀中軍區部隊乘勝攻克石家外圍孤立據點元氏縣城，全殲守軍。連續六晝夜的石家莊之戰，共殲國民黨軍2.4萬餘人，繳獲坦克9輛、火炮100餘門、槍1萬餘支、鐵甲車5列、機車90臺、汽車280輛及大批彈藥、物資，拔除了國民黨軍在華北一個戰略要點，使晉察冀和晉冀魯豫兩大解放區連成了一片，平津地區敵人失去了重要的一翼。
石家莊是人民解放軍自戰略進攻以來攻克的第一個較大城市。對於這場城市攻堅戰，聶榮臻曾回憶說:“這一戰役之所以取得勝利從指導思想上說，是摘下一顆成熟的果子。果子沒有成熟，也就是說，主客觀條件都不具備，硬要去摘，結果不但摘不下來，還要吃虧。對石家莊的進攻，就正是時候。充分發動羣衆出主意想辦法，大搞軍事民主，並結合以往的作戰經驗，提出了以土工作業改造地形爲接敵的主要手段;以爆破、火力與突擊相結合作爲突破的主要手段，這些戰鬥技術的發揮在這次戰役中收到了很大的效果，是成功的。”石家莊戰役，爲爾後進行城市攻堅戰提供了寶貴經驗。石家莊解放，大大震動了國民黨統治集團。蔣不得不承認:“這是我們重要都市第一次的失陷，當然是我們一個重大的損失!”他親自飛到北平，撤銷了孫連仲保定綏靖公署主任的職務，成立華北“剿匪”總司令部，任命傅作義爲總司令。傅作義是聶榮的老對手了，直到北平和平解放，他們在華北戰區的較量才告一段落。石家莊戰役的成功實踐，豐富了聶榮臻關於運動戰和陣地戰的軍事思想，他認爲要善於掌握時機，適時地把運動和陣地戰結合起來，奪取敵人堅固設防的大城市。對敵堅固設防的城市，在四周都是解放區的條件下，只要從實力上和士氣上看，打下的可能很大，就應定下攻堅決心。在戰法上，可採取圍點打援和全力攻堅的辦法。如果不打，就會失去戰機。在己方擁有絕對優勢兵力，對敵完成四面包圍使其進退失據的條件下，應實行軍事打擊與政治瓦解相結合的方針，力求和平解放敵佔據的中心城市。正如《聶榮臻生平》中所言:“(聶榮臻)在作戰指揮中胸懷全局運籌帷幄，善於捕捉戰機，屢建殊勳。
