1941年初，世界形勢繼續蘊釀着巨大的變化，日本乘英、美忙於應付歐洲戰爭之機，積極謀求南進，與英、美之間的矛盾日益尖銳。美國也希望利用中國抗戰拖住和消耗日本，因而加強了對中國的援助。日本強烈感到自己在遠東進行的戰爭實際上是以中、蘇、美、英爲對象的，因而處理中國問題必須和解決南方問題、北方問題綜合考慮，作長期打算。基於這種背景，日軍參謀本部制定了《大東亞長期戰爭指導綱要》和《對華長期作戰指導計劃》。這兩個文件在1941年1月16日的大本營會議上獲得批准，並在御前會議上得到天皇裕仁的御準。
在《對華長期作戰指導計劃》中，日軍大本營提出：“不放鬆現在對中國的壓力，在此期間應用一切辦法，特別是利用國際形勢的變化，力求解決中國事變。”“作戰以維持治安及佔據地區肅正爲主要目的，不再進行大規模進攻作戰。如果需要，可以進行短時間的、以切斷爲目的的奇襲作戰，但以不擴大佔領區和返回原駐地爲原則。”“準備在1941年夏秋時期，發揮綜合戰力，給敵人以重大的壓力，力求解決事變。”
與此同時，日軍在中國關內部隊的統帥機關中國派遣軍也進行了人事調整。西尾壽造大將卸任回國，由曾經擔任陸軍教育總監，華中派遣軍司令官，陸軍大臣的?俊六大將接替職務。
?俊六在日本陸軍裡素有智將的美名，1910年以第一名的資格畢業於陸軍大學。此後曾多次出任日本駐西方國家的武官，可謂見多識廣。但是，他在中國的所作所爲，卻只能用“禽獸不如”，“喪盡天良”來形容。
1938年10月26日，時任侵華日軍華中方面軍司令官的?俊六率部攻佔武漢。日軍佔領武漢後，在?俊六縱容和唆使下，到處殺人放火、**擄掠，犯下了累累罪行。
在武漢街頭，日軍肆意用機槍掃射平民，**殘殺中國婦女的罪行更是每天都在發生。很多日軍憲兵也當街大施淫威。花旗銀行一名外國職員目睹此事後說：“這還是日軍的憲兵，憲兵尚且如此，其他士兵還能不成爲強盜嗎？”
日軍在佔領武漢初期還有計劃地連續在城內放火。漢口和武昌不斷可以看到日軍焚燒民房的大火。搶劫更是常見的事，日軍一進漢口便破門而入，翻箱倒櫃，洗劫財產。爲了鼓勵日軍的搶劫行爲，?俊六下令開設了“漢口野戰郵局”，專門存匯日軍搶劫所得的贓款。該郵局局長對當時東京《朝日新聞》的記者供稱，日軍佔領武漢後的一個月內，該郵局所存日軍士兵的款項，摺合日幣已達到60億日元。由此可見日軍在武漢的劫掠達到何種瘋狂的程度。
?俊六大將進駐位於南京大方巷前國民政府外交部大樓，現日軍中國派遣軍總部以後，就根據《對華長期作戰指導計劃》進行了積極的準備，在反覆的權衡和推演以後，確定在夏秋季節以第11軍爲主力實施長沙作戰。
6月，阿南惟畿在第11軍的一次幕僚會上明確指出：攻取長沙不成問題，高山、大河何所懼，應立即進行具體研究。他還對作戰方針、規模等問題做了具體指示。這樣，日軍第11軍就開始了以當年夏秋之際發動對長沙的進攻作戰爲主題的研究。
6月下旬，阿南惟畿批准了其幕僚擬訂的旨在進攻長沙的秋季作戰大綱。
7月10日至12日，日軍第11軍對作戰大綱進行了兵棋推演。其作戰計劃概要如下：
一、關於作戰目的：
爲摧毀敵抗戰企圖，予第9戰區敵軍以深重打擊，不以佔領地點和奪取物資爲目的。
二、關於作戰名稱：
略稱爲“加號作戰”。
在蘇德戰爭爆發之前，爲了解除自己南進的後顧之憂，日本採取措施調整對蘇邦交，和蘇聯簽訂了《蘇日中立條約》。
蘇德戰爭爆發後，日本大本營立即決定派軍隊進駐法屬印度支那南部。日本於7月2日的御前會議上決定秘密進行對蘇戰爭準備，一旦蘇德戰爭的發展對日本有利，即使用武力解決北方問題。爲此，大本營考慮從中國派遣軍抽調5～8個師團北進，其中包括第11軍的第4、第6、第33師團，同時還將其第3、第13師團列入抽調計劃。這就不能不影響到正在準備進行長沙作戰的第11軍。7月11日，日本大本營又發佈了對蘇警戒的戰備命令，隨即進行了所謂的“關東軍特別大演習”。新任“中國派遣軍”總司令?俊六和第11軍司令官阿南惟畿強烈反對大本營的這一考慮，認爲徹底摧毀中國繼續戰鬥的企圖、解決中國問題纔是日本的根本國策，而這時候突然減少派遣軍的兵力，將使重慶的國民政府重新獲得生機。在這種情況下，第11軍一面繼續加緊作戰方案的準備工作，一面派人赴東京，商討長沙作戰的有關事宜。雖然大本營對於到底抽調多少武漢地區的日軍北進未做出最後決定，但卻大體上商定：一、只將第4師團調出，如能增加1個獨立混成旅團，則佔據地區不變動，長沙作戰仍可實施。調出駐守安義的第33師團的荒木支隊，安義地區需要收縮。
二、調出第4、第6師團，如增加1個獨立混成旅團時，佔據地區縱不變，但不能實行長沙作戰。
三、如再將第3師團也抽出，而增加1個獨立混成旅團，則根據情況放棄岳陽。
四、長沙作戰，計劃由9月1日開始集中輸送，9月15日發起攻勢。因此，當地駐軍8月20日前，如無抽調命令，大體上按實施長沙作戰進行處理。
這樣，第11軍繼續進行進攻長沙的作戰準備。8月14日，第11軍召開了師團長會議，公佈了作戰指導要領，對各師團的任務做了秘密指示。同時，第11軍將有關情況向中國派遣軍總部做了報告。
8月9日，日本大本營會議決定放棄對蘇行使武力，不從中國派遣軍抽調兵力，轉而專門考慮南進方針。中國派遣軍總部根據大本營的指示，於8月19日通知第11軍實施長沙作戰，並令華北方面軍及第13軍各抽調一部及第3飛行團主力協同作戰。然而，當日軍大本營着手製定南方作戰計劃時，長沙作戰又成了爭論的焦點。
當時，在中國戰場上，作爲南方作戰的預定兵團，除駐在華南的第18、第38師團外，另有第4、第33、第21及第5師團；同時，駐武漢的日軍作戰飛機也必須在9月調出。因此，經過一番激烈的爭吵，大本營要求在下列條件下研究長沙作戰問題：一是準備南調的師團不參加長沙作戰；二是協助長沙作戰的空軍部隊約爲軍偵察機、戰鬥機各1箇中隊，第3飛行集團在9月調出；三是華南的兵力不能轉用於華中或華北；四是華中抽出1個汽車聯隊。
8月26日，日軍大本營發佈了決定進行長沙作戰的“大陸命第538號”：“中國派遣軍總司令官爲完成當前的任務，夏秋之際在華中方面可暫時超越規定的作戰地區進行作戰。”
9月1日，中國派遣軍總部向第11軍傳達了大本營的上述命令。
然而，就在大本營發佈決定進行長沙作戰命令後沒幾天，日軍參謀本部的作戰課內，中止長沙作戰的意見又開始擡頭。經過爭論後，大本營於9月2日對長沙作戰又提出了兩條附加條件：一是明確抽調的兵力在南方展開前，不得使之參加長沙作戰；二是長沙作戰要儘快結束。
就這樣，幾經反覆，日軍大本營在進攻長沙問題上總算有了最後的定論。
阿南惟畿在焦急不安地等待中總算接到了大本營最後的有關長沙作戰的指示。隨後，他令參謀人員根據“加號作戰”方案，擬定出更爲詳細的作戰計劃。
自8月中下旬起，日軍第11軍開始向湘北集結作戰兵力。主要部隊及集結位置是：
第3師團：配屬4個山炮大隊，8月下旬由湖北應山附近出發，9月16日前後集結於岳陽東南的小橋圳；
第4師團：配屬山炮、迫擊炮各1個大隊，8月下旬由湖北應城、安陸地區出發，9月10日前後集結於岳陽東南的新開塘附近；
第6師團：配屬2個山炮大隊、1個迫擊炮大隊，原在岳陽、崇陽擔任守備，9月中旬集結於岳陽以南的草鞋嶺附近；
第40師團：配屬1個山炮大隊，9月上旬由湖北大冶、咸寧地區西移至桃林附近集結；
早淵支隊：以第13師團4個步兵大隊、2個山炮大隊爲基幹組成，9月15日集結於岳陽以東的冷水鋪附近；
荒木支隊：以第33師團3個步兵大隊、1個山炮大隊爲基幹組成，9月上旬集結於桃林附近；
平野支隊：以獨立混成第14旅團1個步兵大隊、1個山炮中隊爲基幹組成，9月中旬由江西瑞昌移至岳陽城陵磯附近集結；
江藤支隊：以獨立混成第14旅團1個步兵大隊爲基幹組成，9月中旬由江西瑞昌移至臨湘附近集結；
戰車第13聯隊：配屬2個輕裝甲車中隊，9月中旬由武漢向岳陽集結；
野戰重炮兵第14聯隊，9月中旬由武漢向岳陽附近集結；
第11軍工兵隊：以3個獨立工兵聯隊、8個架橋材料中隊爲基幹組成，9月上中旬由武漢向岳陽、臨湘地區集結。
9月15日，第11軍在岳陽設立司令部戰鬥指揮所，並召集各部隊參謀長會議，檢查發動攻勢的準備情況。該軍9月上旬最後確定的作戰計劃要點是：
一、作戰目的：摧毀中國軍隊的抗戰企圖，給西部第九戰區軍隊一大打擊。
二、作戰方針：軍決定9月18日開始攻勢，擊敗新牆河、汨水之間的中國軍隊；接着準備自長樂街附近進入汨水下游一線發動進攻，攻擊該河左岸之中國第4軍及第99軍。在新市—慄橋（新市南約25公里）公路一線突破敵人陣地，以軍的主力將敵包圍在該公路以西湘江一帶殲滅之；另以一部（第6、第40師團）擊敗蒲塘（平江正西偏南約10公里）方面山地內之敵。大致於10月上旬結束作戰後反轉，集結兵力於岳陽附近。
攻擊汨水左岸地區中國軍隊的開始時間預定在9月23日，9日底前達到作戰目的。
第11軍在集中後期，以一部兵力協同海軍向洞庭湖西岸的常德佯攻。
爲牽制中國第九戰區軍隊，第11軍令警備在贛北方面的兵團適時發動攻擊，使在贛北地區的第九戰區部隊不能回援湘北。
從阿南惟畿的上述部署可以看出，此次作戰，他吸收了第一次長沙會戰時日軍分散使用兵力的教訓，不再是從贛北、鄂南、湘北三個方向進攻長沙，而是將所有的兵力全部集中在湘北，形成湘北方面的絕對優勢。阿南惟畿這一部署，充分說明他是鐵了心要吃掉第9戰區的主力部隊。
日軍在進行緊密的作戰準備，鎮守湘北地區的第九戰區也沒有虛度光陰。雖然自從民國28年下半年日軍向長沙發動的進攻遭受挫敗以後，日軍在中國關內地區的唯一機動作戰集團第11軍將近兩年都沒有再嘗試向第九戰區的控制區發動大規模進攻。第九戰區繼續在橫跨湘、鄂、贛三省的長江以南地區與日軍第11軍形成寬正面對峙。但是，由於日軍控制了湖南的北面門戶岳陽，隨時可能在調集兵力以後，向長沙發起進攻，所以，第九戰區一直沒有放鬆對日軍的戒備。
1940年7月，軍事委員會重設第六戰區後，第九戰區向西、向北與第六、第五戰區的分界是石門橋（常德南約15公里）、連山湖南岸、大通湖北岸、洞庭湖北岸沿長江至武漢下游迄九江之線；向東與第三戰區的分界爲撫河、鄱陽湖口之線。這幾個戰區共同構成對武漢日軍第11軍的包圍態勢，正處於日軍所謂“作戰地區”的當面，故作戰行動較爲頻繁。
第九戰區根據本戰區地形和日軍部署，並總結第一次長沙會戰、上高會戰等作戰經驗，判斷日軍的進攻方向：在贛北方面，一是由德安、安義指向武寧、修水、銅鼓，一是指向高安、上高、萬載，或指向新淦、吉安；在鄂南方面，可能由崇陽、通山、通城向南指向平江、瀏陽；在湘北方面，則由沿粵漢鐵路兩側地區向南直趨長沙。以上各方向中，湘北當爲主要方向，其他則爲策應方向或牽制方向。據此，第九戰區乃將主力部署於湘北方面，並利用橫亙於此方向縱深內的新牆河、汨羅江（汨水）、撈刀河、瀏陽河等構築多層陣地，加強防禦的韌性，將機動部隊控制於東側幕阜山、連雲山山地，以便側擊進攻日軍。1941年3月17日，第九戰區制定了反擊作戰計劃。
其方針是：在贛北、鄂南方面，對非主攻方面之敵，力求將其夾擊於崇仁、新淦以北，宜春、萬載、銅鼓、修水以東及修水、長壽街、梅仙以北地區，予以各個擊破；在湘北方面，“敵如以主力由楊林街、長樂街、福臨鋪道及粵漢鐵路兩側地區向長沙進犯時，則誘敵於汨羅江以南、撈刀河兩岸地區，反擊而殲滅之”。其指導要領主要是應用誘敵深入、反擊殲敵的戰法。
第九戰區的部署主要意圖是在日軍向長沙進犯時，讓開大路，佔領日軍進軍道路兩側，等待日軍遭到堅強抵抗，久攻不下的時候，處於日軍側翼位置的中國軍隊則伺機殺出，對日軍發動側翼進攻，切斷日軍的後勤供應線，尋找機會圍殲日軍之一部。
這個時候，第九戰區所轄正規部隊爲3個集團軍11個軍30個師，另有若干遊擊縱隊。其部署爲：
第99軍（戰區直轄）：擔任漢壽、沅江、青山一帶洞庭湖湖防及湘陰、營田、歸義間湘江、汨羅江守備。
第27集團軍總司令部位於平江。其所屬：
第4軍：擔任磊石山、鹿角、至公田間新牆河南岸守備，並以一部佔領新牆河以北筻口、大雲山前進陣地；
第58軍：擔任黃岸市、九嶺、北港、賽公橋一線守備；
第20軍：擔任通城、鐵柱港、鬥米山、楊芳林各線守備。
第30集團軍總司令部位於修水。其所屬：
第78軍：擔任觀音閣、潭埠之線守備；
第72軍：以一部守備東坑嶺、留咀橋之線，主力集結於三都南北地區。
第19集團軍總司令部位於南昌。其所屬：
新編第3軍：擔任靖安、奉新一線守備；
第74軍：集結於南昌地區整訓；
預備第5師：擔任吳城一線守備；
江西保安縱隊：擔任錦江南岸守備。
第37軍（戰區直轄）：集結於長樂街、甕江、福臨鋪間地區整訓。
第26軍（軍事委員會直轄）：集結於金井、瀏陽、永安市一線整訓；
第10軍（軍事委員會直轄）：集結于衡山地區整訓。
新編20軍（軍事委員會直轄）：集結於湘潭、株洲一線整訓。
湘鄂贛邊區挺進軍（轄7個縱隊）：主力部署於咸寧、瑞昌間地區擔任遊擊。
第九戰區司令長官部位於長沙。
9月11日，武漢，日軍第11軍司令部。
親臨武漢監督會戰準備的?俊六大將在軍司令官阿南將軍宣讀了大本營的命令以後，站了起來，用他的一雙三角眼睛掃視了一圈在座的第11軍各部高級軍官，然後聲嘶力竭的喊道：“天皇陛下對我軍的作戰給予了莫大的希望，期待諸君能夠發揚帝國軍隊的優秀傳統，不畏困難，奮勇攻擊，一舉殲滅支那第九戰區部隊的主力，爲天皇陛下的偉業，爲建立大東亞共榮圈，奮鬥！”
“天皇陛下萬歲！大東亞聖戰萬歲！”在?俊六大將的鼓動下，一個個日軍高級軍官，都站了起來，向着東京的方向高聲的喊叫。
9月15日，阿南惟畿在岳陽前線指揮所召開了各師團參謀長及作戰主任參謀會議，對整個作戰的指導方案進行了詳細說明，以貫徹其作戰意圖，同時也爲其部屬打氣。
所有工作佈置完畢後，阿南惟畿不禁長長地出了一口氣。面對整裝待發的軍隊，阿南惟畿躊躇滿志，他甚至企盼戰鬥能夠早一日打響，以便早一日收到日軍攻佔長沙的捷報。