豫東戰役後，形勢發展很快，粟裕認為國民黨反動政府，儘管在軍事上還占有一定優勢，但從政治、經濟、文化、民心得失等方面進行全面衡量，我們已占優勢，至少也是旗鼓相當。他對師以上幹部說："今後要立足於全面大反攻，在中原淮海平原上與敵決戰。"
在豫東戰役後期，粟裕也曾有過順勢殲滅黃百韜大部的設想，由於南線之敵胡璉兵團已經十分逼近，殲滅黃百韜已經不可能了，除了集中現有兵力猛攻黃百韜，以順利撤離戰場外，命令許譚（許世友、譚震林）兵團不用參加圍殲黃百韜兵團的戰鬥，而是就近拿下兗州，從而殲滅敵人3.6萬餘人。此舉，令毛主席非常高興。因此，毛主席設想，讓許譚兵團休整兩周后拿下濟南，使邱、黃急援濟南；這樣，華野又可殲滅運動中邱、黃一部，並順勢拿下徐州。這是一個極其理想化的思路。毛主席就此思路兩次發電報給粟裕，徵求其意見。粟裕面對毛主席的電報，反覆思考後，為了更好地回答毛主席的詢問，他決定召開高幹會議。會前，粟裕已將毛主席的電報全文印發給所有與會者，要求他們做好充分準備。
到會者除陳士榘、唐亮、鍾期光、張震等華野領導外，還有各縱隊的主要領導。
粟裕靜靜地、認真地，而且是非常仔細地聽着每一個人的發言。他們的發言都在於如何積極主動地貫徹落實好毛主席的電報精神。粟裕的思路比較開闊，甚至與毛主席所想有很大的距離。好在，毛主席僅僅是徵求意見。在粟裕看來，集中兵力，解放濟南並沒有什麼大的困難，他所想的是，把蔣介石近百萬主力部隊殲滅在中原淮海這個大戰場上，即所謂的"大決戰"。他思考這個問題已經很久了。早在蘇中戰役時，他就認為，國共之間必有幾次帶決戰性的大戰役，以定勝負。他認為，作為一個指揮員，能夠參加這樣的大戰役，可算得上革命的幸運兒了。
他沒想到，這場大決戰即將到來，而且，他和他的部隊還會成為這場大決戰的主角。也就是說，他在城南莊立下軍令狀之後，接着就打了豫東戰役，形勢發展很快，令他不得不把大決戰的構想提到日程上來。因此，他現在所考慮的就是，把中央軍委和毛主席攻克濟南的決策，變成一個具體的、周密的"攻濟打援"的作戰計劃，從而揭開與蔣介石百萬大軍在中原淮海大決戰的序幕，以達到將國民黨軍主力殲滅在長江以北的目的。
他見大家都談得差不多了，便說："目前，如果令我許譚兵團的一部進攻濟南是很困難的，退一步講，即使用這部分兵力去占領濟南機場，恐怕部隊本身也有困難。他們自濰縣、兗州戰役之後，傷亡很大，他們東征西殺，馳騁於山東、河南許多戰場，再也難以連續作戰了。在此種情況下，再去攻濟南，勢必迫敵北援。
這樣，兗州仍有被敵重占的可能，剛剛建立起來的兗州人民政權又將失去。以許、譚現有的兵力，攻濟與打援勢難兼顧。如以許譚全力專攻濟南，兵力雖可，但時間需長，南線之敵仍可北援。如邱清泉、劉汝明兩兵團北援的話，則許譚兵團全部用來打援的話也會感到兵力不足。
因此，我建議： 我整個華東野戰軍，包括許譚兵團全部休整一個月，然後協力攻打濟南，並同時打援；在打援中選擇有利地形，殲滅邱清泉兵團大部乃至全部都有可能。因為我原華中部隊，如一、四、六縱都非常善於野戰。為了順利攻克濟南，我原山東部隊，有眾多礦工子弟，善於爆破，善於攻堅；用這樣的部隊打濟南，我看半個月就可以了。因此，我一直在想，只要濟南拿下來了，打援方面又取得勝利，那麼整個戰局，就可以向南推進，今年攻占徐州是完全可能的！所以我認為，我們不能孤立地看這個濟南戰役，而是要把'攻濟'與'打援'作為兩個環節，放在作戰的全局來思考。這是我們華東野戰軍，我們前線指揮部戰役指揮的重大策略，我們要讓南京，讓徐州始終估不透我軍的作戰目的，是意在濟南，還是意在徐州？是意在攻濟，還是意在打援？這就是我們全部謀略的奧妙。"
一番話激起了眾將領的強烈興趣，七嘴八舌地爭相補充粟裕的'攻濟打援'計劃。待到旭日東升時，一份答覆毛主席詢問的完整意見已經飛到了中央軍委，請毛主席和軍委領導定奪。
很快，中央軍委的復電來了，同意他們休整一個月，並"攻濟"同時"打援"，要求迅速拿出具體的作戰方案。
在最後確定濟南戰役的作戰部署的高幹會議之前，粟裕特地找張震談話。
"粟司令，你說把'攻濟'和'打援'作為兩個環節，放在整個作戰全局來考慮是什麼意思？"張震先發制人。
"你說呢？"
"我說麼，'攻濟'也好，'打援'也好，都只不過是濟南戰役中的兩個環節。"
"不錯。不過，就整個濟南戰役而言，也僅僅是個序曲而已，序曲再好，總不能代替高潮吧。"
"粟司令的意思是……"
"在江北與蔣介石的百萬大軍決戰。具體地說，就是把在中原淮海的80萬敵軍調動起來，殲滅掉！決戰淮海嘛！"
張震驚奇地看着粟裕，攻克山東省會，殲敵數十萬，也僅僅是個序曲，粟司令的這個序曲好大啊……
是的，幾經研究，並報中央軍委批准同意後，濟南戰役定於1948年9月16日的深夜，這個中秋之夜打響。指定時間一到，頓時萬炮齊鳴，地動山搖！美妙的淮海決戰序曲，終於奏響了……
經過八晝夜的激戰，解放濟南，殲敵十萬餘，活捉了王耀武。
按照粟裕原來構想： 在打援中，把邱清泉、黃百韜兩個兵團，各個殲滅。這樣進一步拿下徐州就順理成章了。然而，戰爭不是一廂情願的事，對方肩上也扛着一個腦袋，也會思考對策。為什麼，面對林彪的72萬大軍，蔣介石在東北戰場只派了47萬正規軍，便認為可以取勝。而在山東，粟裕指揮的部隊不足30萬（濟南戰役後為32萬），蔣介石卻用了65萬正規軍直接參加山東戰場的作戰，而且還憂心忡忡，足見國民黨軍對粟裕是重視的，對粟裕的研究也是認真的。負責援助濟南的總指揮是杜聿明。他對粟裕的研究非常認真、非常仔細，甚至非常深入。他認為粟裕打仗，通常以打援為主。這次粟裕打濟南是半真半假，打得下、打不下都沒關係，把濟南戰場作為釣餌，吸引援軍，將援軍各個殲滅，以殲滅"國軍"的有生力量為主。杜聿明的根據是： 粟裕攻濟只用了8個縱隊（含預備隊），那麼，還有10個縱隊和大量地方武裝在哪裡？不就是隱伏在援軍的必經之路的兩側，以打援麼？所以杜聿明下了死命令，命令邱清泉、黃百韜兩個援濟兵團，每天前進不得超過3公里。在沒弄清粟裕的10個縱隊的準確位置前，千萬不可輕舉妄動。濟南解放以後，敵援軍連三分之一的路程尚未走完呢！
濟南戰役開始不久，粟裕就知道，杜聿明並不想真援濟南，王耀武直接向蔣介石求救，蔣介石下了死命令，杜聿明也只派了不足一個旅的兵力空降濟南。打援計劃難以實現了。不過也好，解放濟南就會更加順暢了。
事實上，1948年8月，粟裕在籌劃濟南戰役的時候，就已經反覆考慮華野未來動向問題了。他認為，濟南戰役結束後，華野還是以兵出徐蚌線以東為宜。如果回師中原，與中原野戰軍會合，尋戰於徐州西南，我軍將處於蔣軍的徐州集團與武漢集團之間，一開始就將與優勢之敵決戰，而且我軍處於腹背受敵的地位。如果兵出徐蚌線以東，首先攻占淮陰、淮安、高郵、寶應，那就可以暴露津浦線，孤立徐州，並迫使敵人退守（至少要加強）津浦沿線及江防。這樣，就可以減少敵人的機動兵力，便於我恢復江邊工作，為將來渡江作戰創造有利條件。將來華野全軍進入隴海路以南作戰時，也便於得到華中人民的人力物力的更大支持和交通運輸的方便。
基於此種考慮，粟裕在8月23日給中央軍委的請示電報中就提出："兩個月以後，我們即可舉全力沿運河及津浦南下，以一個兵團攻占兩淮及高（郵）、寶（應），則蘇北局勢即可大大開展。"當時，就想以此作戰行動為下一步作戰和大軍渡江創造條件。
在濟南戰役過程中，徐州援敵，在華野阻援打援部隊的陣地前，始終徘徊不前，不敢北上與華野交戰。粟裕認為，這說明敵人並不愚蠢，就是為了避免在不利條件下與我軍打大規模的仗；同時也說明了我軍對敵人進行戰略決戰的有利條件已逐步成熟。因此，他進一步策劃在徐蚌地區的作戰計劃。他設想，在南下作戰攻取兩淮及高郵、寶應時，也採取"攻濟打援"的戰法，以蘇北兵團加一個縱隊擔任攻城任務，全軍主力則置於宿遷至運河車站之間的運河兩岸，以殲滅可能自徐州、海州線來援之敵。如果敵人不來增援或來援被阻，則進行第二步作戰，以3個縱隊攻占海州、連雲港。這個戰役的名字就叫"淮海戰役"。
9月24日早晨7時，濟南城內的巷戰仍激烈地進行着，粟裕判斷，濟南戰役已穩操勝券，而且，徐州之敵也必將停止北援，就將上述的作戰方案報告給了中央軍委，建議舉行"淮海戰役"。
粟裕在電報中說："建議即進行淮海戰役。該戰役可分為兩階段： 第一階段以蘇北兵團（須加強一個縱隊）攻占兩淮，並乘勝收復寶應、高郵，而以全軍主力位於宿遷至運河車站沿線兩岸，以殲滅可能來援之敵。如敵不援或被阻，而改經浦口、長江，自揚州北援，則我於兩淮作戰結束前後，即進行第二步，以三個縱隊攻占海州、連雲港，結束淮海戰役，爾後全軍轉入休整。"
有人說，粟裕是走在時間前面的人。在戰爭指導上，他常常在認識上處於領先地位，在實踐上又走在前列。他的戰略遠見，不帶任何主觀隨意性，而是實事求是的科學預見。這是他在長期的革命戰爭中，不斷探索、不斷攀登、不斷積累的結果，才得以逐步形成了南線決戰的戰略構想，並通過濟南戰役揭開了決戰的序幕。
