淞沪抗战初期，中国方面投入兵力达七八十万人，采取攻势作战，一度占据主动权。日本帝国主义为了实现其野心，便不断向中国增兵。9月中旬，日军抢得了主动权，中国军队被迫转入防守。在此后一个多月的时间里，双方保持胶着状态。日军为了迅速扩大战果，于11月初入由杭州湾登陆成功，对淞沪守军实行迂回包抄，图谋切断守军退路。淞沪守军急忙向苏（州）嘉（兴）、吴（苏州）福（山）线既设阵地转移，上海于11月11日陷于敌手。可是，由于战役指挥不当，对大军撤退未做有效的准备；加上蒋介石幻想国际和平势力出面干涉日本对华侵略，部队刚刚开始撤退，突然又令其返回原阵地坚守，结果造成战斗秩序混乱，人马相互践踏。而且受敌方机动性较强的海陆空军的追击，中国军队不得不尽量疏散，这就使原来已经混乱的部队更不好掌握。
更为糟糕的是，既设阵地线上既无留守部队和向导人员，又无工事位置图，部队转移至此后，往往找不到工事位置；即便找到了工事位置，也没有打开工事的钥匙。以至在敌军跟踪追击的情况下，守军根本没有时间去占领阵地，一直从吴福线撤退到锡（无锡）澄（山）线，仍未站稳脚跟。这样一来，蒋介石、唐生智等苦心经营的三道国防工事，虽属坚固，但大部分没有起到阻止敌人前进的作用，防守南京的问题出乎意料地提前了。
中国军队在淞沪战场损兵折将后，便纷纷溃退，大有兵败如山倒之势，而且撤退缺乏有效组织，以致死伤甚多。日军无意停止进攻，欲乘中国军队溃败混乱之机扩大战果，寻求与中国军队之主力作战，并力图攻占南京。“树欲静而风不止”，中国军队是继续夺路而逃还是相机组织抵抗？是放弃南京还是守卫南京？便成了摆在南京政府面前的一个重大战略问题。
作为军事委员会执行部主任和训练总监的唐生智，是淞沪防御计划的起草者之一，自然对南京的弃守相当关注。他在跟刘湘私下交谈时提出，南京守是要守的，考虑到从上海撤下来的部队伤亡很大，没有完整的部队来守，他又觉得不大好办。不过他还是主张派一个军长或总司令率几个师守卫南京，以拖住敌军、阻止其迅速进逼，从而为调整部队赢得时间。当此目的基本达到后，守城部队便撤出南京。刘湘向他透露，蒋介石准备让他守卫南京。他认为没有这个必要，但他又表示“要我守，我只好拚老命”。刘湘问他能守多久，他说“天晓得”，对此事心中无底。可见，唐生智一开始为实施“拖”的战略，是主张派适当兵力暂时守卫南京的，而且表示不排除他自己有率守南京之可能。
9月中旬，蒋介石在中山陵园的官邸连续召开了三次高级幕僚会议，商讨南京弃守问题。何应钦、唐生智、白崇禧、徐永昌、刘斐、谷正伦等高级将领先后参加。在第一次会上，大多数将领不主张固守南京，或以少量部队做象征性的防守，稍作抵抗后就主动撤退。他们认为，参加淞沪抗战的军队损伤太大，又经过混乱的长途退却，士气沮丧，战斗力大减，非在远后方经过相当长时期的补充整训，不能恢复战斗力，很难组织有效抵抗。而且，南京所处地理位置和地形都不便于防守，日军可凭借海陆优势对其进行立体包围。他们纯粹以战争可能出现的胜败和个人的荣辱来决定弃守，可能招致身败名裂的事，他们是不会干的。而对日本心存幻想、念念不忘和谈者甚至主张宣布南京为不设防城市，他们的理由是：如果我军自动退出南京，日军不是以武力攻占的，将来和谈它就不能以战胜者自居而对我方进行要挟。为了将来便于和谈，他们主张干脆让出南京。蒋介石虽表示南京应该守一下，但因无人表示支持而未作出明确的决定。
在第二次会议上，唐生智主张南京非守不可，其理由是，南京既是首都，又是国父孙中山先生陵寝所在地，为国际舆论所关注。如果放弃南京不守，将对不起总理在天之灵，也会受到舆论的谴责。更重要的是，组织南京保卫战，可以吸引大量日军，阻止和延缓其对国军主力的追击，掩护大部队的撤退和休整。何应钦、刘斐等人仍不主张固守南京。而蒋介石却倾向唐的意见。接着，他又提出由谁来守的问题。当时，没有一个人作声。蒋见无人响应，便赌气地说：“如果没有人守，我自己守。”这时候，唐生智站起来说，南京用不着委员长亲自去守，从前线下来的将领中派一个军长或总司令带几个师或军去守就行了，或者就让南京警备司令谷正伦去守。蒋介石说他们不行，资历太浅，就把此事暂时搁置起来，待后再议。其实，蒋介石就是想要唐生智出面来守，只是双方都未挑明罢了。
会后，蒋介石又把唐生智找去，直截了当地对他说：“关于守南京的问题，要就是我留下，要就是你留下。”唐说：“你怎能够留下呢？与其是你，不如是我吧。”蒋见激将法有效，又立即问唐把握如何，唐答道：“我只能做到八个字‘临危不乱，临难不苟’。”于是，蒋唐终于在私下里敲定了守南京的问题。
第二天，蒋介石又召集了第三次会议，并强调南京是首都所在，其弃守对全国影响很大，因此，必须坚决固守，而且要酌量增加守卫部队。接着，他又提出了由谁来守的问题，并征求在坐的各位将领的意见。一开始没有人敢作声，他们都不愿意领此“苦差”。最后，还是与蒋有约的唐生智打破了沉寂，自告奋勇地表示：“军人以身许国，当此危难之际，何能畏难以求苟安。若没有别人负责，我愿意勉为其难，誓与南京共存亡！”这时，何应钦马上恭维唐生智说“孟潇兄愿意担任是最适当没有的了”。其他将领如释重负，都表示赞同。蒋介石见唐已公开承诺，也松了一口气，欣然表示“很好，就由孟潇负责”，并指示何应钦，可让唐先行视事，随后发布命令。
蒋介石并非不知道南京守不住，但是，作为国民政府的首脑，舍首都而不守，将无以向国人交待。他在11月26日、27日的日记中写道：“南京孤城不能守，然不能不守，对国对民殊难为怀也。”“对上对下，对生对死，对艰难缔造之首都实不忍一日舍弃，依依之心不胜言矣！”流露出一种为难的神情。蒋介石固守南京的决心，“下得很迟，也下得很勉强”。
促使蒋介石作出固守南京的决定，还有这么两个重要因素：其一，与日本和谈的交涉始终都未中断，德国驻华大使陶德曼已在中日之间斡旋。他以为只要能固守南京，拖上个把月，就可以为将来的谈判争得有利的地位，甚至可以争取有利的条件来结束这场战争。其二，寄希望于苏联参战。当时，国民政府派驻苏联的军事代表团团长杨杰向国内报告称，苏联的国防部长已经答应，一旦日军占领南京，苏军就会开始军事行动。蒋介石对此抱着非常乐观的态度，以为苏军在不久的将来就会直接干预中日战争。有德国的调停和苏联的承诺，蒋介石准备在南京拖上一两个月。
其实，唐生智心里也很清楚，南京是守不住的。因为整个防御计划都被淞沪大溃退打乱了，军队来不及休整，民众工作又没基础，加上南京易攻难守，日军又占有海陆空优势，从种种因素来看，守南京是凶多吉少的，弄得不好会身败名裂。可是，唐生智顾不得这么多，明知不可为而为之，他一心只想利用南京战事拖住日军四个师团以上的兵力，从而掩护我方从上海撤下来的五六十个师安然地向浙皖地区退却。当时，就有人戏称唐为“湖南骡子”，也有人说他办了一件蠢事，唐不怕被人误解，反以“骡子”自喻，并称“有些事也是要蠢人办的”，从而自我解嘲。
另外，唐生智又是一个虔诚的佛教信徒，根据佛教“世人畏果，菩萨畏因”的教义，内心认为只要动机纯洁，不要考虑后果。当有人问他为什么与蒋结怨很深却在危急的时候为蒋分忧时，他答曰：“我不入地狱，谁入地狱？”正因为有这种信念作为精神支柱，所以他对保卫南京具有决心和勇气。唐生智在大敌当前的情况下，所表现出来的临难不苟、挺身而出、忍辱负重的精神令人钦佩。
11月19日，蒋介石以手令特派唐生智为南京卫戍司令长官，罗卓英、刘兴为副司令长官，周斓、佘念慈分任正副参谋总长。唐生智昔日的部将刘兴、周斓在关键时刻又来鼎力相助了。第二天，唐便走马上任，着手筹备。直到24日，国民政府才正式颁布命令。蒋介石在让唐守卫南京之后，决定迁都重庆，部分军政机关暂迁武汉、长沙等地办公，蒋仍留在南京。
唐先行到职，在百子亭自家公馆内组织了南京卫戍司令长官部，并立即着手调集军队。当时，蒋介石颁布的卫戍部队战斗序列包括第七十二军孙元良部、第七十八军宋希濂部、南京警备军谷正伦部、教导总队桂永清部、宪兵部队以及其他特种部队之一部。后来，根据蒋介石适当增加防守力量的部署，唐生智调第七十四军俞济时部、第六十六军叶肇部、第八十三军邓龙光部参加防守。再后来，随着固守南京方针的确定，蒋介石又增加了防守南京的部队，就地由东战场第三战区序列抓去的不算，连远在武汉的第二军团徐源泉部也被派往南京。这样一来，守卫南京的部队在原来五个师的基础上又增加了三个军，达到十一万人。
守卫南京的部队人数虽不算少，但都是东拼西凑起来的，而且不少部队是刚刚从淞沪战场退下来的，损失惨重。如第三十六师刚到南京时仅剩三千人，后来虽然补充了四千名新兵，但是，这些新兵大多是临时拉来的，没有受过训练，有的甚至连枪都没摸过，只能边修筑工事边教以射击要领。有的部队还来不及补充也拉来参战了。“一般官长身在江南而心已过江北”。这样的疲惫之师，其战斗力是可以想象的。
然而，日军已经大兵进逼，唐生智没有时间去考虑这些了，只好指挥这些疲惫之师去仓促应战。他制定的城防计划是这样的：利用雨花台、天堡城、红山及幕府山已完成的骨干工事编成核心阵地，各要塞全力掩护长江封锁线，并协同核心阵地的守备队进行战斗；各守备队必须做好物资和弹械等方面的准备工作，都要有独立作战的能力。根据这一计划，唐生智将守城部队分复廓阵地和外围阵地两个层次配备。外围以第二集团军徐源泉部在栖霞山、乌龙山占领阵地，并接防乌龙山炮台，封锁长江；第七十四军俞济时部任牛首山至淳化镇附近守备，并向秣陵关、湖熟镇派出前进部队；第六十六军叶肇部担负淳化镇附近至凤牛山的守备，并向句容镇附近派出有力部队出击，构成半环形外围防御阵地。复廓阵地，以第三十六师宋希濂部担任西面红山、幕府山及城北一带的守备任务，第八十八师孙元良部防守城南雨花台地区，教导总队桂永清部防守中央地区紫金山及城垣东部，宪兵部队则在清凉山附近守护。11月30日，蒋介石密电唐生智和第三、第七战区司令长官，规定：各战区须与首都卫戍军相策应，对敌作战，保持动作之自由；首都卫戍军除固守南京既设阵地外，应与第三战区部队密切协同相互策应，击破敌之围攻军。
唐生智在调兵遣将、布置防线的同时，经常到前沿阵地察看防线，检查各部执行军事计划和修筑工事的情况。身为最高统帅部副参谋长的白崇禧也奉蒋介石之命协助唐察看南京城内外的地形和防卫部署。时值冬季，天气寒冷，唐生智与白崇禧等乘车先到城外的汤山、栖霞、乌龙炮台、秣陵等地视察阵地，第二天又继续察看城内的蒋山、雨花台、天堡城等地。在两天的巡视中，唐生智身体衰弱不堪，加之身披重裘，行动颇为不便，在平地看看还勉强凑和，却实在无力爬山登高。每当此时，唐只能委托白崇禧代为察看。白见立于寒风中的唐生智身体如此虚弱，不禁为南京防守担心，也为唐本人担心。还有一点令白崇禧难以理解的是，唐离开自己的部队已经好些年了，“又没有什么基本部队可以依靠，凭什么来守南京呢”？
可是，唐生智并未后悔，也未因身体虚弱而打退堂鼓。他还经常集结官兵训话，以鼓舞士气。他对将士们说，战争将降临在我们面前，而南京是我们的首都，我们绝不能轻易地把它奉送给敌人，保卫首都的责任，现在毫无迟疑的要我们来担负，我们不能辞卸这一责任。他要用保家卫国的口号来激起官兵们誓死守城抗敌的信心和决心。
11月27日，唐生智在中英文化协会举行记者招待会，公开表示：“本人奉命保卫南京至少有两件事有把握。第一，即本人及所属部队誓与南京共存亡，不惜牺牲于南京保卫战中；第二，此种牺牲定将使敌人付出莫大之代价。”当时，负责翻译的杭立武见唐发誓与南京共存亡，犹豫了一下，不敢翻译，就问唐生智，“你这句话要负责的喔！”唐反问一句，“你不相信我？”于是，杭就理直气壮地把这句话译了出来。在坐的记者无不为之感动，纷纷鼓起掌来。
唐生智信誓旦旦，决心坚定，显然有鼓舞士气、振奋军心的意图，然而，从当时陈兵布阵的情况来看，唐生智并不是虚张声势、哗众取宠。首先，守城的部队不断增多，摆开了迎敌的阵势。其次，唐生智为了表示破釜沉舟、背水一战的决心，已要交通部长俞飞鹏把下关到浦口之间的渡轮撤退，禁止任何部队和军人从下关渡江。他还通知长江对岸浦口的驻军，凡由南京向北岸渡江者，都请制止。如有不听制止的，可以开枪射击。唐生智已经做好了决死战的打算。
11月28日，蒋介石召见唐生智，了解各处部署情况，并进一步磋商防守细节。第二天，唐又陪同蒋介石等人察看了紫金山、雨花台、狮子山等复廓阵地。30日，唐又亲临前沿，督促检查，终于完成了城东长达七八十公里的弧形防线。