**１５万精锐部队，未能歼灭被围的２万日军，蒋介石十分震怒，称之“在战史上亦为一千古笑柄”。遂将丢失兰封、商丘的第八军军长黄杰、二十七军军长桂永清撤职查办，将擅自撤出兰封的第七十一军八师师长龙慕韩处决。
６月，日军占领开封。日军的下一个目标已暴露无遗：先攻占郑州，再夺取武汉。蒋介石对豫东的战事深感不安，多次电令第一战区从速拿出阻敌西进的方案。
第一战区司令长官程潜决定，以水代兵，就像荷兰人抵制法国路易十四侵犯荷兰一样，决堤放水，淹没日军。并通过林蔚向蒋介石请示。
蒋介石有些沉吟，他知道这样做，会惹出不少麻烦事。可是，日寇气势汹汹，骄悍已极，不杀杀其气焰，郑州马上也要被他们拿去。其实，这个以水代兵之计，早在１９３７年７月，他的德国首席顾问法肯豪森就曾提出建议“将黄河决堤”以阻止日军。
当时，众多国民党要员也曾向蒋介石提出“以水代兵”的建议，１９３８年４月１３日，陈果夫曾致函蒋介石：“台儿庄大捷，举国欢腾，抗战前途或可转入佳境。唯黄河南岸千里，颇不易守，大汛期间且恐敌以决堤攻我，我如能取得武陟等县死守，则随时可以水反攻制敌。盖沁河口附近，黄河北岸地势低下，若在下游任何地点决堤，只需将沁河口附近北堤决开，全部河水即可北趋漳、卫，则我之大危可解，而敌则居危地。”５月，姚宗、何成璞等都提出过这一建议。
继之，第一兵团总司令薛岳、二十集团军总司令商震也提出这一建议，进一步坚定了蒋介石的决心。蒋介石决定炸开黄河，制造水障，以阻止日军西进。他直接向驻在杨桥的三十九军刘和鼎军长发出了密电：“为了阻敌西犯确保武汉，依据冯副委员长建议，决于赵口和花园口两处实行黄河决口........赵口之决口，限两日完成。已另电洛阳第一战区程长官负责主持，规划实施........花园口之决口，已电令一０九师负责万福麟）负责，仍由三十九军统一指挥。并希电报后，即向程长官联系，接受指示，认真办理具报。”
蒋介石和刘和鼎直接电话联系，随时询问进展情况。他对刘和鼎说道：“以水代兵，在黄河历史上有２０多次。我们也是研究了再研究的。和鼎啊，这次掘堤关系到国家民族的命运，切戒小妇之仁。没有小的牺牲，哪有大的成功！要打破顾虑，克尽全力！”
为确保守住郑州至许昌一线，参谋长晏勋甫、副参谋长张胥行向第一战区司令长官程潜建议掘开黄河。
１９３５年早在武汉行营时，晏勋甫曾拟过两个方案：一是必要时将郑州付之一炬，使敌人徒占废墟无可利用。二是水攻，挖掘黄河堤岸，以水淹敌。以一炬付郑州，只能起坚壁清野作用。
决堤，既可以水淹死敌之先头部队，更可将敌人主力隔绝在西进路上，不战而达战略目标。晏勋甫道：“敌相当部分是机械化部队，装甲车、卡车、火炮牵引车多至千余辆，滔滔大水中，必寸步难行。”他转向了程潜：““此乃不成熟之设想，当否，请总司令裁定。”程潜默默抽烟，半晌无话，观其神志，显然在作缜密考虑。恰此时，委员长侍从室主任林蔚打电话询问作战对策，晏勋甫于是回话道：“我们拟掘开黄河堤岸，放水阻遏敌军。”
“决堤放水？”林蔚的口气显得几分惊讶，停顿了一下又问：“你们计划在哪里掘？”
“赵口至花园口一线。”晏勋甫根据程潜提示，又补充了一句：“请林主任报告委员长定夺。”
林蔚搁下话筒，便去向蒋介石报告。蒋介石听后，淡淡一句：“知道了。”
见蒋介石半晌未置可否，林蔚以为他不会同意了：“决口之后，黄水一泻千里，受灾百姓必多........”他瞥见蒋介石脸色不对，把后面的话咽了下去。
“上学要付学费，经商要垫本，不花代价怎么行？这是以小的牺牲，换取大的胜利。”蒋介石本也有以水淹敌的想法，程潜他们的方案，正合本意。只是作为最高统帅的他，对决口带来的严重后果，不能不有所考虑。“至于灾民嘛，政府应尽力救济。”
林蔚连忙称是。
蒋介石立即召集最高军事会议。由于情势紧急，不容拖拉，他在林蔚介绍程潜所提方案后，率先表示赞同。众人自然不再有异议，咸趋声附和。末了蒋介石关照此为最高军事机密，务须秘而不宣，事前也不许组织百姓转移。
“事前及进行过程中保密容易，大水漫淹后，必有记者报道，舆论也必究询原因，届时如何说法呢？”军委政治部长陈诚问。
军事委员会参谋长何应钦提出，可下达指令，加强新闻检查，一律不许报道。
“不。”蒋介石立即否定：“任其报道，且要如实报道灾情。”
何应钦有些疑惑地道：“那决口原因呢？总得自圆其说，总不能暴露真相，以防引起舆论诘责。”
“真相？”蒋介石已是成竹在胸，微微一笑而道：“日机不是到处狂轰滥炸嘛？”
众人一下子明白了蒋介石的言下之意。
未及一个钟头，晏勋甫就接到林蔚回电：“你们的掘堤计划，最高军事会议已作研究，委员长已表同意。”
程潜以电报形式，再作书面请示。他的用心是：掘堤后，必有无数百姓罹难，一旦泄漏真相，将为千夫所指，舆论压力下，很可能被蒋介石推出来当替罪羊。电话口说无凭，故而欲取得书面批复，以预留后路。
６月１日，蒋介石回电批准，令在中牟以北黄河南岸选定地点决堤，让河水在郑州、中牟之间向东南泛滥，以阻敌西犯，并要求在４日子夜放水。赵口在花园口下游，距花园口大约４０公里。
程潜将掘堤任务交给了第２０集团军，２０集团军总司令商震经与参谋长魏汝霖商酌，派５３军１团具体执行，决口地点定在赵口。
一应准备就绪，６月４日早上６点，赵口掘堤破土。由于估计不足，对坚厚的基石与护坡石力不从心，更在于，时值枯水，水位偏低，未能如期完成。
当时是，日军正拚力攻打开封，蒋介石心甚焦急，于６月５日凌晨命令商震：“此次决口，有关国家命运，没有小的牺牲，哪有大的成就？在此紧要关头，切戒妇人之仁，必须打破一切顾忌，克竟全功。”
商震与魏汝霖安敢怠慢？即赴赵口现场督察，下午８时，工兵实施爆破，炸毁基石，然因斜面过陡而发生严重倾塌，决口悉数堵塞，前功尽弃！
商震又派一团生力军，在第一决口东５０米处，开挖第二个缺口，工兵则挖凿坑道，深入堤坝中，意在加强爆破威力。他还悬赏千元，要求迅速放水。费了九牛二虎之力，口是开成了，较之第一缺口宽大，但放不出水。原因是水位继续下降，开掘之初，主流接近南岸，完工时，口外有暗沙阻隔的缘故，主流已北移数十米，只有少量河水流出。且又不急。一小时后坑道凿成，装填炸药起爆，泥石纷飞，缺口变大变深，水哗哗涌出。正欲向上报捷时，轰响声声，接连塌方，又把决口堵塞，虽数次疏流，终不奏效。赵口第三次掘堤，又告失败！６日凌晨，日军攻占了开封，兵锋直指郑州，蒋介石从商震处得报赵口三次掘堤劳而无功，又急又气，一日数次催问进展情况。在堤上督促的魏汝霖急得似热锅上蚂蚁，程潜、商震也都忧心如焚，除了严厉催促外，又有什么办法呢？
６日拂晓时分，住在京水镇新８师师部的蒋在珍师长突然被电话铃声惊醒。蒋抓起话筒一听，原来是２０集团军总司令商震直接与他通话，告诉他：陇海路南之敌巳突破通许一带我军防线，逼近开封，而赵口决堤尚未完成；命令新八师加派步兵一团，前往协助。蒋在珍不敢懈怠，赶紧起床驱车赶往赵口视察。
赵口一段，地势较低，选中此处决堤至当。惟计划此事时，对黄河水势估计过大，对堤质估计过松，故而决定在大堤相隔四十公尺处挖开两道口子，以为河水同时放出后，利用河水的巨大压力，能将两处决口之间四十米长的河堤冲走。孰料决口掘成，中间大堤久冲不垮，兼之决口过于狭小，流量有限，士兵虽奋力加宽，然军情紧迫，已时不可待。
师部上尉作战参谋熊先煜向蒋在珍谈了看法后，蒋立即前往郑州，面谒商震，商总司令的意思是增加官兵，加快速度。熊先煜则认为决口过于狭小，人去得再多，也无用武之地。商命令熊先煜即返赵口，协助５３军１团改善技术，尽快放水。
熊先煜与蒋在珍又返回赵口，正与决堤部队长官计议之中，忽接商震电话，转达统帅部指示，命令新八师于本部防区内另选地段决堤。
蒋在珍马上登车驶返京水镇。途中，蒋在珍问熊先煜：“我师防区内的沿河地段，你都熟悉，你看究竟在哪里决堤最好？”
熊谨慎答道：“以地形而言论，马渡口、花园口均可。不过，马渡口与赵口相距不远，敌人巳迫近这一地区，恐堤未决成，敌人已至。为获时间宽裕，我看最好还是选定花园口一段为宜。”蒋在珍当即拍板：“时间紧，任务重大，事不宜迟，那就定在花园口吧。”
回到京水镇巳经是夜里十点左右，刚刚吃过晚饭，商总司令派集团军参谋处长魏汝霖前来督促决堤事。商议中，定下两条原则，尽快完成任务，尽量缩小受灾地区。
蒋在珍命令由熊先煜主持决堤工程。熊先煜领命后即着手准备。夜里１２时，率工兵营营长黄映清、马应援和黄河水利委员会专司河堤修防的张国宏段长，乘坐一辆中吉普匆匆赶到花园口，勘察确定决口位置。
到达堤上，但见脚下河水潺潺，水位莫辨，一弯月牙儿在云中浮，时隐时现。微风拂拂，十分凉爽。他们马上开始工作，岂料所带四支手电筒，非仅光亮微弱，且灯泡质量尤为低劣，一经使用，先后全部烧坏。此时巳是６月７日凌晨两点钟了。考虑到事关重大，不敢摸黑盲目选址，乃决定上车休息，待天亮后再勘察选址。五个人挤在车上，只能坐待天明。
天刚亮，他们几人就沿着黄河逆流而上勘察。河堤上，有一个冷清的关帝庙，庙中无人，门大开。四人全都进去对着红脸长须的关云长磕了三个响头，还敬了香。熊先煜跪在地上默默祷告：“关老爷，中华民族眼下遭了大难，被日本鬼子欺侮得惨。我们打不过他们，万般无奈，只好放黄河水淹，淹死了老百姓，你得宽恕我们。”
大约过了一个钟头后，熊先煜选定在关帝庙以西约３００米处决堤。看中这里，是因为此处为黄河的弯曲部，河水汹汹而来，到脚下突然受阻，压力较之直线处为大，容易冲垮河堤。而且从地图上看，待河水从花园口一带涌出，漫过巳被日寇占领的开封、中牟、尉氏、通许、扶沟、西华等县境后，便可注入贾鲁河，向东南而行，流入淮河。贾鲁河道，可成为一道天然屏障，阻止河水无边漫延，当可减少人民所受之损失。
熊先煜说出意见后，用树枝指着铺在地上的地图，询问随同各员有何意见，如没有不同意见，就这么定下了。
这时，众人神色庄严，泪光朦胧皆不能言。
熊先煜问张国宏：“张段长，你是我们请的专家，你要表态，定在这里，行，还是不行？”
张国宏答非所问，目光呆滞，连连嚷道：“要死多少人........要死多少人吶！”
熊提高声调说道：“死人是肯定的，在这里决堤，死的人会大大减少。你必须表态，行，还是不行？”
张国宏这才意识到自己的责任，认真地看着地图，表态同意。
工兵营营长黄映清不待熊先煜问他，巳经“咚”地一声跪在了地上，举眼向天，热泪长淌。
其他人全都随他跪了下去，四个人跪成整齐的一排，面对着波涛汹涌的黄河，放声大哭。直到工兵连和二团九连的官兵来到堤上才住声。
熊等人马上动手划线，决定相隔五十米距离掘两道决口，由大堤内侧对准河床底部平行地掘进，决口外宽内窄，呈倒“八”字形。预计掘至河底，决口可宽至十米左右。放水之际，洪水从大口入小口出，增大压力，更容易冲垮大堤。这均是从赵口决堤失败的教训中得来的。
计划完毕，工兵连和九连马上按线开挖。不一会儿，第二团全部集中，第三团也赶到堤上，乃分由大堤南北两面同时动工，以加快掘进速度。
早饭后，蒋在珍决定移住花园口，亲自督促施工。下午３时魏汝霖奉商震之命，赶来花园口督察，告诉蒋在珍：“新郑已发现日军便衣，集团军司令部已迁往巩县，委员长催问数次，令尽快决堤。蒋在珍看了看表：“争取提前在９日午时放水。”他迅即调来两个营增援，并改为两个班轮流作业。又把师政治部的战地服务团召来，作慰问演出：男女演员演唱了一首又一首救亡歌曲，为掘堤官兵鼓劲打气。?２０００多官兵日以继夜地猛掘不止。
６月８日，掩护部队的傅衡中团在花园口以东１５华里处与日寇骑兵接火，将前来侦察袭扰之敌骑击退。京水镇上，出现了日寇便衣，一时人心惶惶。移住河堤上监工的蒋在珍，下令将师部由京水镇移往东赵集。
为加快掘堤速度，张国宏段长招集附近百姓协助，并指示掘土方法。河堤上军民混杂，人山人海。武汉统帅部每隔一小时便来电话催问决堤进度，希望能早一刻放水。黄河决堤，已对抗战大局影响甚巨。
中午前，魏汝霖再度由郑州赶来，代表商震慰劳新８师官兵，目睹决堤官兵虽连续工作一昼一夜又半日，却毫无倦容。许多人巳经双掌鲜血淋漓，用绑腿缠手，仍挥镐掘土，不肯休息。魏处长深为感动，当众宣布，如于当夜１２点放水成功，总司令部奖法币两万元；如明日晨６时放水，则奖一万元。
午后，日机两架，从北飞临花园口上空侦察，并投弹数枚，落于决口附近西南面村庄，炸死炸伤居民十余人，但决堤并未因此而停止片刻。
花园口河堤系小石子与粘土结成，非常坚硬，挖掘相当吃力。而且，河堤完全靠人工挖掘，未用一两炸药。
经新八师官兵与前来协助的民工苦战两昼夜后，终于６月９日上午８时开始放水！