衡阳之战胶着，日军速胜的计划破产了，这直接导致日本本土的东条英机内阁垮了台，东条受命重新组阁。
当日军第二次总攻被挫败后，日军在华派遣军大感不安，横山勇于是决心将全军主力全部投入战场，除继续补充第68、第116两师团的兵力外，还命令重炮部队向衡阳转进，同时下令给第40、第58两师团分别向衡阳集结。9月1日，横山勇佩带着“天照皇大神宫”的神符，也由长沙乘飞机到达了衡阳郊外，亲自指挥攻城大战。
9月2日，蒋介石下决心要救出方先觉部，于是他命令桂系的第46军即刻向衡阳攻击前进。“小诸葛”白崇禧不愿意为了救援先觉部而折损桂系的实力，因此他只派出了46军新编第19师。新19师遵照白崇禧的指示，一路慢慢悠悠的朝衡阳挪动着。蒋介石对桂系军队的阳奉阴违很是生气，可是他对白崇禧等人又毫无办法，只能另选部队救援衡阳。
蒋介石再次选上了第62军，命令他们停止撤退，重新组织兵力继续向衡阳攻击前进。62军军长黄涛慑于蒋介石的权威，不得不停止撤退，调过头来继续向衡阳攻击前进。9月3日，第62军主力占领铁官铺后，继续向衡阳西面“挺进”，沿途与日军激战不断，全军边打边进，最后好不容易击破日军的拦阻，突进到了离衡阳不远处的雨母山。眼看着离衡阳城不远了，黄涛一声令下，命令部队全部投入战斗，竭力攻击。可是，62军的弟兄们费尽力气，督战队拼命督战，还是无法冲破日军的阻拦，勉强的拿下了雨母山。此时，第62军已是精疲力竭了，实在是无力继续进攻了。可是就在这欲进不得、欲退不能的时候，黄涛再次接到了蒋介石的严令，命令第62军继续攻击，务必解救方先觉部。
第62军已经竭尽全力了，无法在攻了，而且日军的工事又异常坚固，62军多次猛攻都是无功而返。可是军令如山，黄涛还是准备去“经历不能想象之危险与牺牲”，硬着头皮下令再次攻击。结果，全军就好象撞在了铁板上一样，不但未能前进半步，反而遭到了更加严重的伤亡。62军像老牛一样进攻的时候，日军正集结重兵攻其侧后，第62军陷于孤军作战，被迫由攻势转为守势，在雨母山一带与日军相持。
9月5日，日军5个师团带着重炮100余门，在横山勇亲自指挥下，发起了对衡阳的第三次总攻击。在战前的动员会上，横山勇疯狂的叫嚣道：“一天之内，攻下衡阳！”其实，日军早就在9月2日起就对衡阳发动了空袭，重炮部队也与9月3日用猛烈的炮火对衡阳城轰击了整整一天，如今衡阳城内早已是一片废墟了，所有的防御工事已经不复存在了。
5日上午，日军步兵出动，发起了正面强攻。第10军方面，倍受压力。每个阵地都遭受到了日军最猛烈的攻击。日军投入的兵力之多、火力之猛、持续时间之久，为开战以来所没有的，衡阳全城都为硝烟所笼罩，完全分不清方向。面对鬼子发了狂的猛攻，第10军的弟兄们以手榴弹与刺刀与鬼子们血战。碉堡垮了，武器毁了，弹药尽了，但只要有一个未死的士兵从废墟中爬出来，就又拿起武器和鬼子们以命相搏。所有的官兵们都以一敌十，以百敌千，与鬼子拼杀到底，怒吼着和阵地共存亡。
9月6日中午，战况已经发展到白热化。设在衡阳城内中央银行的第10军军部内，方先觉与部下们讨论着战况，悲痛欲绝的方先觉给蒋介石发出了最后一封电报，在电报中方先觉沉痛的说道：“校长钧鉴，学生所部早已弹尽粮绝，敌于今晨自北门突入，学生已无可用之兵。学生决心以死报效党国，不负校长栽培之恩。此电为学生最后之言，愿来生再为校长建功立业！”
入夜之后，日军的攻击仍为停止。衡阳城内到处都是火光和浓烟，炮声、枪声、喊杀声混成一片。城内守军的联络早已中断，整个衡阳城都已是遥遥欲坠了。
所有人都寄托方先觉再次给第10军带来荣誉的梦想，终于完全成了泡影，第10军战死万余人，受伤8300余人，目前总兵力已不足万人。衡阳城已是朝不保夕了，第10军残部困守在衡阳城内，与外界失去了所有的联系。衡阳城内，只剩下一个顶梁柱，那就是方先觉了，可是他还有什么救城的高招吗？答案是否定的，此时的方先觉已经做好了殉国的准备，只等着那最后时刻的到来了。
衡阳城内，中日两军继续在竭力厮杀着，谁也无法在最后一刻击败对方。战斗进入了考验意志力和耐力的时候了。在这个时候，任何一方如果获得了支援，胜负的局面都将改写。但是，中日两军谁都没有援军。
9月7日，方先觉在痛心疾首，五内如焚中度过了一个白天。当夜幕降临以后，在仍然激烈的枪炮声中，方先觉召集部下们，在中央银行的地下室内召开了紧急军事会议。会议主要讨论衡阳城内守军的三个选择：是突围、死守、还是投降。面对这三个选择，方先觉将做何打算呢？
在这内外交困的情况下，方先觉虽是顶梁柱，但他也是无力回天了。至于下一步要如何选择，他也是举棋不定，只好把一一步命运的决策权交给了部下们。在会议上，部下们各抒己见，都认为伤员众多，弹尽粮绝，已经是无力突围了。第190师师长葛先才认为，除以死殉国外，只有投降以待时机了。他的这个建议一提出来，再座的众人就都保持了沉默。
投降，当降将，这几个字眼，以前方先觉从没想过。但此刻一经提出，他的脑袋是“嗡！嗡！”作响，在众人议论纷纷沉默之时，他没吱一声就离席了，走进了自己的内室，突然“哇”的一声哭了起来。听到军长失声痛哭的声音，以190师569团团长李刚为首的主战派，慷慨激昂的说道：“就是死！也要和小鬼子们死战到底，与衡阳城共存亡！”但以190师师长葛先才为首的主降派却不干了，他们激烈的反驳道：“还是要以保存实力为主，没了实力，何谈抗日啊？与衡阳城共存亡，完全是一句空话，命都没了，拿什么来什么来救国！拿什么来打败小鬼子！”
就在主战派和主降派还在激烈的争论时，方先觉走了出来制止了部下们的争吵。他长长的叹了一口气，然后说道：“事以无可为，为了上万官兵的性命，还有城内百姓的安危，惟有放弃抵抗，以避免无谓之牺牲了。你们可以向日军投降，而我则必须以死来报效党国！”于是主降派们经过讨论，向日军提出了6项投降条件，这6项条件是：（1）要求保留第10军建制。（2）要求日军不杀害俘虏和百姓。（3）要求日军给予伤兵人道待遇。（4）要求日军立即停火。（5）要求日军派飞机护送第10军高级将领去南京去见汪精卫主席。（6）要求日军妥善安置第10军的随军家属。
会后，方先觉派副官处长张广宽与日军联络，将投降条款呈送给日军最高指挥官横山勇。结果，这6项条件全部被横山勇拒绝了，气急败坏的横山勇严令各部加强攻击，务必于天亮前全歼第10军残部。副官处长张广宽灰头土脸的回到了第10军军部，把情况向方先觉作了汇报。
午夜时分，突然传来一个惊人的消息，预10师的一个团已经停止了抵抗，那着前些日子日军散发的“通行证”投降了！这个消息立刻就在第10军内部传开了，许多主张投降的将领，也决定采取这样的方式向日军投降。但是，并不是所有的人都是愿意投降的，第190师569团残部在团长李刚和副团长李洪峰的带领下，毅然决然的向日军发起了冲锋，全团800余官兵无一人后退，全部倒在了冲锋的路上。横山勇在得知这一事情后，下令厚葬这些宁死不屈的中国军人。
天亮以后，主降的190师师长葛先才带着日军联络官走进了第10军军部，日军联络官给方先觉敬了一个军礼，然后礼貌的对方先觉说道：“我们司令官横山勇将军请方军长到司令部一叙，请方军长跟我走吧。”方先觉怒目而视，右手悄悄的伸向腰间，准备拔出手枪自杀殉国，而手枪早已被副官处长张广宽伸手夺下了。190师师长葛先才对方先觉说道：“军座，事已至此，你就带我们走一条活路吧！”方先觉沉吟片刻，眉头一皱，把心一横，就跟着日军联络官，走出了第10军军部。