16日下午4时，方先觉接到报告：“铁路机修厂失守，军参谋长王荣波与500多54师官兵全部殉国，衡阳城的南大门已经被打开了。现在日军正在全力进攻衡阳火车站，试图再打开衡阳的东大门。”
此时，方先觉手上早以是无兵可调了，衡阳火车站的失守也只是时间的问题了。当晚，方先觉下令，放弃所有外围阵地，全军退入衡阳城内，死守衡阳！
第10军调整部署后，外围阵地已经全部放弃了，谁知日军却迟迟未向城区内发动进攻。原因是日军此时也是精疲力尽了，他们在等待援兵、弹药和给养的到来。这次总攻衡阳的战斗，让日军再次的损失惨重。日军第11军的战报称：“我军再度发起的总攻，和上次一样，兵力损失不下万人。虽然打开了进攻衡阳城区的大门，但我军也无力再继续进攻了。”
战前第10军将士以为马上就可以战胜日军，夺取保卫衡阳的胜利梦想全都成了泡影，如今再也没人说：“再不上阵，就没有立攻的机会了！”眼下的形势让他们明白了，第10军将会成为第二个57师，恐怕只能是战至最后的一兵一卒了。
日军休整了2天之后，再次发动了进攻。衡阳城内外又是炮声隆隆，阵地前喊杀声彻夜不断。19日，日军的进攻再度受挫。两个师团不得不停下来，再次补充兵员和装备后，横山勇才下令继续进攻衡阳。
同一日，远在重庆的蒋委员长电令方先觉：“无论兵员如何缺乏，必须编足数营，向增援友军方向出击，否则，敌必将以守城部队无力而不退矣！”
对于蒋委员长的电令，方先觉感到了很奇怪，他拿着电报自言自语的说道：“我第10军已孤军奋战多日，始终未见一兵一卒的援军。在这即将城破人亡的最后时刻，怎么就突然有了援军了呢？”
原来，在衡阳保卫战打响之后，隶属于薛岳指挥的粤系第62军就奉命开到了衡阳附近，准备策应第10军的作战。谁知他们突然接到蒋介石的命令，要求他们立刻去祁阳进行集结待命。结果，就在他们后撤祁阳的途中，横山勇就把偌大的衡阳围了个水泻不通。那么蒋介石为什么要撤走第62军呢？其实，蒋介石不相信第10军可以守住衡阳城，他怕衡阳城失守后，日军会向大西南进攻，所以他决定将62军撤下来，去祁阳一线布置防线。如今，第10军已死守衡阳多日，方先觉多次向军委会求援，蒋介石又觉得不能将第10军弃之不顾，于是他给第62军下达命令：“第62军即刻由祁阳出发，沿湘桂铁路向衡阳之敌攻击前进，解救方先觉部之围。”20日清晨，第62军从祁阳出发，中午时分便到达了白鹤埔附近，62军军长黄涛接到先头部队报告：“约一个联队的鬼子已占领白鹤埔车站，拦住了我军前进的道路。”
62军军长黄涛当即命令先头部队第151师，向白鹤埔车站攻击前进，为全军打开前进的道路。谁知151师与日军激战了一日，始终未能拿下白鹤埔车站，由此，62军军长黄涛判断，这个日军联队所担负的任务是：死守白鹤埔车站，阻挡62军增援衡阳。黄涛知道救兵如救火，每耽误一秒钟，都有可能促使衡阳城陷落。但是如今鬼子阻断了62军前进的道路，让62军举步为艰啊。黄涛认为如果硬从正面突破，不仅要付出重大的牺牲，而且还会让62军实力大损，更会耽误宝贵的时间，很难达到救援第10军的目的。经过一翻思量之后，黄涛决定以一部分兵力牵制日军的阻击部队，全军主力饶过白鹤埔车站，继续向衡阳方向进军。
半路上被鬼子拦住的第62军，就是蒋介石所说的友军。方先觉接到蒋介石的命令后，心想就自己这样一出击，“敌以为守城部队有力而就退却矣”这完全就是不靠谱的事情嘛，这个想法实在是太可笑了。但他还是按照蒋介石的命令，向前来增援的62军方向出击，试图与友军会师。22日午后，方先觉听到城西方向穿来的枪声，当即用电台与62军取得联系，约定互为策应，争取早日达成会师。紧接着，方先觉抽调部队向城西方向出击，试图打通与友军的联系。
шωш●тт kдn●℃O
在重重包围中的方先觉心急如焚的盼望着友军的到来，22日黄昏，前线部队报告：“日军配备在西南方向的炮兵部队已撤到了湘江东岸，在西北地区的鬼子炮兵也后撤到了蒸水地区。”得到这个报告后，方先觉意识到有可能是第62军得手了，自己有突出重围的希望了。方先觉认为不可以大意，还是应该派人再去侦察一下，另外还得用电台与62军联络一下。
夜里，派出去侦察的人回来了，他向方先觉报告说：“湘江与蒸水河上都架起了浮桥，有日军部队正在陆续后撤。”方先觉意识到62军是真的得手了，现在鬼子们已经慌了，他们已经开始秘密的撤退了。方先觉认为不可以错过这次机会，应当立即行动，即可向62军靠拢。
就在方先觉刚要下令突围的时候，派出去向城西方向迎接友军的部队回来了。方先觉急忙将带队的军官叫来询问情况，带队的军官姓曹是个少校营长，他如实的向方先觉汇报了情况。他对方先觉说道：“历经险阻，竟未与友军相汇，遂半夜失望而归。在归程途中，受到日军突然袭击，在部下的舍命阻挡下，才死里逃生！”这支部队竟冲出了日军的包围圈，接着没找到友军后，居然又杀回了城内，这令方先觉感到了万分的惊讶，方先觉再次向曹营长问道：“援军没有找到，他们没有打到预定接应的地点？”在得到了曹营长肯定的回答后，方先觉继续问道：“那城西的枪声是怎么回事，鬼子们在城西搞什么鬼呢？”曹营长回答道：“不知道，只是我们发现鬼子的大炮全都对着城内，鬼子步兵们也在频繁的调动，好像要有什么大的行动！”方先觉一下子醒悟了过来，他大声的骂道：“横山勇太他妈的狡猾了，这分明就是他布下的圈套，想利用援军来引诱我们出城！然后在城外围歼我们！”
方先觉猜的没错，这确实是横山勇的诡计。鬼子们佯装撤退，诱使城内的中国守军出城与援军汇合，既而在城外歼灭第10军残部，然后夺取衡阳城。幸亏曹营长及时的杀了回来，才让方先觉识破了横山勇的诡计，没有下令出城突围，避免了第10军全军覆灭的危险。
就在62军想救而救不了第10军的时候，日军一个旅团的援兵却到达了战场。他们立即抄袭62军的后路，将62军围困在了雨母山附近。62军不得不放弃救援第10军的计划，向祁阳方向突围。24日，第62军突出重围，但全军伤亡惨重，已完全丧失了救援第10军的能力，蒋介石的救援计划彻底的失败了。
62军被打退以后，横山勇对衡阳城内的第10军用尽了心思，不仅天天用炮火来打击第10军的抵抗意志，还和方先觉玩起了心理战。他派飞机飞临衡阳上空，有时是空投炸弹，有时是空投少量的香烟和大量的传单，在这些传单中有加盖了日军第11军关防大印的“通行证”，凡是持有“通行证”的中国军人出城投降，日军可以一路放行。另外横山勇还在传单中写道：“能征善守的第10军将士，你们的任务已经完成，无愧于你们作为军人的职责。可惜你们的蒋委员长已经抛弃了你们，致使你们被围困在衡阳城内长达1月之久。我大日本皇军本着人道主义原则，不愿再徒增杀戮，现在给你们一条生路。只要你们放下武器走出衡阳城，我大日本皇军将不会阻拦，任你们随意离去。”
第10军的将士们看了这张传单，都意识到这是横山勇的诡计。横山勇想利用62军无力救援的事实，来煽动、引诱、离间、涣散第10军的军心，削弱第10军将士的抵抗意志。而方先觉采用的对策是，天上掉下来的烟卷儿，谁捡着了就归谁所有，那些鬼话连天的传单，谁捡到了可以拿去当擦屁股的手纸，但那些所谓的“通行证”必须上缴，然后统一集中销毁。方先觉还对士兵们说道：“身为军人，理当为国尽忠，官兵们要继续苦斗苦战，誓与衡阳共存亡！”
结果，日军的诡计泡了汤，白白的浪费了香烟，却没有一名中国军人拿着“通行证”走出衡阳城。横山勇气急败坏的下达了总攻的命令，再次对衡阳城发动了凶猛的进攻。