雖然新牆河對面的日軍大半年都沒什麼動靜，但春天就繼任了第11軍司令官的阿南惟幾其實早就在私底下做著再次進攻的準備，他的參謀長木下勇少將和其他參謀幕僚從他剛上任那天，就在著手製定一個新的殲滅第九戰區主力部隊的作戰計劃，希望藉此提高因為上高敗退而低下計程車氣，同時也能給重慶國民政府方面更大的壓力。
只不過，就在阿南惟幾矇頭準備新的“長沙作戰”時，六月底突然爆了蘇德戰爭，那個遠在歐洲的小鬍子美術生以一己之力徹底攪亂了整個世界的局勢，東京的日本大本營很快就陷入了激烈的爭吵中：一眾高官圍繞著北進偷襲蘇聯的屁股和南下東南亞掏一把英法的殖民地兩個計劃吵得天翻地覆，在重大戰略目標未定的時候，阿南惟幾這個長沙作戰在6軍大臣的辦公室裡吃了好些天的灰，連個上桌討論的資格都沒有。
7月初，東京的御前會議終於鬆口了，在蘇德戰局德軍佔優勢的情況下，關東軍便可以北上攻擊蘇聯。這可是天皇的決定，所以整個日本6軍都動了起來，從各佔領區以及本土抽調出大量的兵力和裝備補充關東軍，使關東軍的兵力直接達到了7o萬人，而且還舉行了一場規模空前的演習，恨不得馬上北上背刺蘇聯，以報諾門坎之仇。
不過，在以聯合艦隊司令山本大將等海軍官員的極力勸說下，裕仁倒也沒有否決掉南下對抗美國和東南亞的計劃，在權衡利弊後，日本大本營決定先靜觀其變，讓海軍和6軍各做準備，一旦局勢再次出現變化，就可擇優選擇。
在大本營忙著開會的當口，阿南惟幾也一直沒閒著，他一邊聯絡東京那邊說得上話的長官和朋友，儘快把他的作戰計劃送到會議桌上，另一方面則繼續完善作戰計劃：11軍派出的偵察機每天都要在湘北的天上亂竄好幾次，將這一帶的地形地勢，國軍的陣地配置之類情報每日更新；阿南自己帶著一眾幕僚也整日開會，先是認真總結了第一次長沙會戰失敗的經驗教訓，改換進攻計劃，還召集了11軍下轄各師團的參謀長來軍部集合，又是徵詢意見又是兵棋推演，費盡心機弄出了一個新的“長沙作戰”計劃。
一直折騰到八月底，阿南惟幾的作戰計劃終於得到了日本大本營的批准，但日本大本營還是沒忘南下東南亞的計劃，順手給阿南惟幾的脖子上套了兩個項圈，要求阿南不能動用計劃要參加南方作戰的部隊，而且必須戰決。
雖說日本大本營給阿南惟幾提出的兩個要求都有些難搞，但對阿南來說，能夠得到大本營的許可已經實屬不易，所以拿到許可的阿南依舊高興的像個五十多歲的孩子，馬上開始在湘北集結部隊。
在阿南的計劃中，第34師團和獨立混成第14旅團進攻贛北；主力第3、4、6、4o四個步兵師團全部出動，外加第33師團的兩個聯隊，第13師團一個聯隊，獨立混成第18旅團進攻鄂南和湘北區域：配合步兵行動的還有戰車一個聯隊，炮兵26個大隊以及工兵，航空兵，總計過1o萬人。
和之前進攻長沙不同的是，阿南把他的主力部隊四個師團擺成了肩並肩的隊形，不再分散行動，而是齊頭並進，對國軍陣地進行縱深突破，他們的目的不再是之前的佔領長沙，掠奪物資，而是改為消滅中國軍隊有生力量，伺機殲滅國軍第九戰區的主力，從而摧毀重慶方面的抗戰意志。
一次動用如此規模的部隊，阿南惟幾已然勝券在握，向麾下的各支部隊下達命令的時候，他的腦海裡就已經浮現出了膏藥旗飄揚在長沙城頭的場景。
日軍開始如此規模的調動肯定瞞不住對面的中國軍隊，這麼多人馬和裝備拉來拉去，天上飛機嗚嗚直轉，擺明了又在準備新的大規模進攻，第九戰區自然不會坐以待斃，第9戰區長官部也針對日軍可能的進攻著手製訂反擊策略，做成了一份第九戰區反擊作戰計劃，以應對日軍攻勢。
可在制定計劃的時候，第九戰區的應對方向出現了嚴重的偏差，長官部未能查明日軍已經改換目標，而是根據重慶的蔣委員長指示，依舊以保衛長沙城為主要著手點，因此，第九戰區司令長官薛嶽在這個基礎上制定的作戰計劃和上一次長沙會戰幾乎沒什麼區別，都是且戰且退，誘敵深入，待日軍主力抵達撈刀河兩岸地區，再集中力量與日軍決戰，反擊並殲滅日軍。
第九戰區的國軍以照搬兩年前的老戰術來應對吸取了教訓，有備而來的日軍，自然討不到什麼好處。
緊張備戰到9月7日，日軍終於有了動作，第6師團率先出動，開始三面圍攻新牆河北側的大雲山，意圖掃清這裡的國軍部隊，為大部隊的南下提供安全保障，大雲山一帶的國軍守軍奮起反擊，但因為日軍攻勢猛烈，並且又飛機支援，兩天後大雲山大部分地區淪落敵手，第6師團於是上報已經基本殲滅大雲山一帶的國軍主力，將大雲山交給了準備從此南下的第4o師團。
不過第6師團沒想到的是，大雲山剩餘的國軍部隊並未後撤，而是獲得了增援，繼續頑強抵抗，防守大雲山南側新牆河南岸的粵軍第4軍也抽調了一些兵力前往策應大雲山的戰鬥，讓接手了第6師團陣地，急著爬過大雲山渡河的日軍第4o師團吃了個大虧，遭到數次截擊和伏擊，損失不小，直到17日才在指定地點完成集結。
可惜的是，日軍在大雲山一帶的掃蕩沒能引起第九戰區長官部的警覺，輕敵的薛嶽認為這只是日軍以少數兵力展開的襲擾，為的是確保兩軍換防，並不是為了進攻長沙，所以在給蔣委員長上報的時候直言“戰區當面之敵似無大企圖”，從而給日軍留出了充足的準備時間。