此时的情形是，济南及外围的日军已达三万余人。日军在邻接济南城的济南商埠以纬四路为中心线，划为东西两个警备区，并构筑了一些工事，收容日本侨民。
5月2日深夜，薛林在床上辗转反侧，无法入睡：“济南惨案就在这几天发生，会是哪天呢？”薛林这段历史记不清了。但是薛林脑中出现了一个画面：几千名中国人惨死在日军屠刀之下，日军重炮轰击这座历史名城，济南城一片火海……
薛林在书上见过济南事件的描写，顿感痛心疾首，无奈有心无力。
“偌大的济南城，靠我这些军队分散驻守，根本守不过来，虽然陆续有军队开进济南，可哪些又是我能指挥的了的？蒋介石届时一定对日软弱，现在他就极力约束部队不许回击日军挑衅，一旦日军有大动作，被动的还是我们，受苦的还是老百姓……”
薛林想着想着进入了梦乡，他已经尽最大努力部署了他的部队，并与王天培联合，尽量压制日军。
第二天，薛林很早的起床，照例亲自视察街道，薛林的司令部就临近济南商埠，离日本军驻地较近，所以薛林不敢大意。
与此同时，国军战地政务委员会委员兼外交处主任、山东交涉员蔡公时与十八名随员清晨到达济南，于经四纬六路成立外交部特派员交涉公署，这个办公地点离日本军队的驻地很近了。
太阳升起，济南城内各处商店相继开门，生意兴隆，市面熙熙攘攘，一片太平景象。
薛林和钱壮几人刚出军营，突然远处一声枪响，街上乱了起来。
薛林等几人立刻紧张起来，但还不至于慌乱，因为这几天经常能听到枪声，薛林拦住一位从前面跑过来的市民问道：“这位大爷，前面发生了什么事？”
“军爷，日本人又开枪杀人了，这回杀的是个当兵的。”说完就跑了。
薛林的怒火腾地窜上心头，眼睛瞪圆了，说道：“吗的，这帮王八蛋，走，咱们去看看。”说完便掏出了手枪。
“薛林，校长可说过，不许还击，你可别猛撞啊。”大壮说道。
“都欺负到家门口了，你让我怎么忍？这几天日本开枪伤人的事还少吗？”薛林说。
这时一团长说道：“旅长，这次日本人好像是有预谋的开枪，您还是回营吧，万一日本人有阴谋，您必须坐镇指挥，您回去，我们几个去前面看看。”
薛林一听，顿时冷静下来，随即命令一团长去前面看看情况，自己和钱壮回营准备。
薛林回到营中马上戒严部队，薛林的军队分散驻扎在几处，薛林的司令部有人数五千人。
外面的枪声越来越激烈，最后密密麻麻响成一片，还夹杂着炮声。薛林焦急的等待消息。
很快一团长回来了，有了答案。
原来第四十军贺耀组部的一名士兵因患病被送往基督教医院治疗，遭到日军士兵阻止通行，由于语言不通，发生争执。日军士兵突然开枪，打死中国士兵一人，余人避入医院。大约同时，日军在魏家庄向正在张贴标语的中国士兵开枪，造成数人死伤
不仅如此，日本军队又向国民北伐军第四十军第三师第七团的两个营发起攻击，这两个营的营长因为有事不在营中，损失惨重。
薛林心中的无名之火已经燃烧。
正在这时，一位士兵跑了过来，原来是蒋介石的命令：命令各部队原地驻防，不许开枪还击，违令者，军法从事。
听罢，薛林抓起茶杯狠狠的把桌子上的茶杯摔在地上，大声喊道：“去他娘的狗屁命令，枪都顶在脑门了，还不让反抗，让我等死吗？”
此时王天培的副官也亲自前来，请求薛林的支援。
众人义愤填膺，纷纷请战，就算是军法从事也认了。