国民政府大本营在接到南京卫戍司令部的电文之后终于结束了争吵，命令守军相机撤出南京，接着就着手部署防御徐州和武汉，但是却没有让集结在南京周边的国军其他部队策应撤退行动。在大本营看来，既然守卫南京的部队能够使近二十万日军一筹莫展，肯定可以轻松地脱身，更何况西南方向的李从文集团还有四个十九路军的精锐师和将近两个师的川军，如此强横的实力，区区一两个师团怎么可能挡得住呢！
接到了大本营的正式命令，南京卫戍司令部的参谋部立即开始着手制定详细的撤退计划，为了避免出现和淞沪会战相同的问题，对每支部队的职责和撤退的路线、时间都作了细致的规划，同时为了尽量使断后的部队也能够脱身，把所有的船只全部留给了他们。
金陵兵工厂已经停止了武器弹药的生产，军队在职员的协助下把便于携带的物资、设备分门别类地包装好，提前送到市区的西南角，等人员全部撤离厂区后，工兵部队迅速在不便移动的机器设备上面和仓库里面埋设炸药，准备在撤退的时候全部炸毁，免得落入日军的手中。指挥部把兵工厂的工人和自愿留下来市民按照军队的编制进行简单的队列训练，接着把多余的武器和在战斗中缴获的日军武器分发下去，没有领到武器的就配给一个燃烧瓶，最后连燃烧瓶都发完了，就把削尖的毛竹当成武器来发。军人们在分发这种连冷兵器都算不上的武器时面容严峻地说道：“如果你的面前有日本兵的话，你所要做的事情非常简单，那就是，冲过去，捅死他！如若不然，就让他过来杀死你！”
简单地武装了平民之后，孙百里立即指挥部队按照预定方案行动，在最后的准备工作完成之后，马上致电李从文，要求他攻克马鞍山，前来接应。
1937年1月18日，李从文指挥部队从西南、南面和东南三个方向逼近马鞍山，准备拔掉这颗钉子！
守卫马鞍山的是第18师团的步兵第35旅团，旅团长手冢省三少将和其他日军指挥官一样凶狠狡诈，他知道自己的兵力处于绝对的劣势，所以完全放弃了外围阵地，集中全部的兵力防守马鞍山市区，准备用巷战把中国军队拖住，等待增援部队的到来。在日军的布置下，马鞍山市区的大街小巷上面全部设置了路障和用沙袋构筑简单的防御工事，同时在一些比较坚固的建筑物里面隐蔽着火力点。
由于担心包围圈里面军队的安全，李从文非常着急，战斗一开始就把自己的第78师调了上去，从正面突击日军阵地。在大炮惊天动地的吼叫声中，步兵踩着弹坑前进，还没有等敌人从炮击中恢复过来就冲到面前，用密集的弹雨把敌人击垮。
战斗开始不到三十分钟，中国军队已经突破了日军防线，进入市区。
日军以民宅为掩护，利用预设的工事，和中国军队在每条街道和巷子里面激战不休，虽然损失惨重，但是却一步也不愿意后退。李从文看到前面进展缓慢，命令第六十师和第六十一师加紧攻击，从另外两道城门进入市区。依靠巨大的兵力优势，中国军队很快把日军压缩在市区的一隅，准备给其最后一击，但是没想到的是，日军竟然释放了毒气！
十九路军虽然装备了防毒面具，也进行了相应的训练，但是毕竟是第一次在实战当中遇到，被打个措手不及，冲在最前面的几百名士兵很快被弥漫的黄色气体笼罩住，感到眼睛一阵刺痛就再也看不到任何东西，然后用力抓着自己喉咙在地上痛苦地挣扎。
后面的士兵这时候才反应过来，急忙带上面具，和反扑过来的日军混战在一起。凭借着人数和武器的优势，中国军队再次击退日军，并向前突进，把残敌包围起来。然而，还没有来得及发动最后的攻势，日军的轰炸机群就出现在战场的上空，把一颗颗重磅炸弹扔了下来，把市区变成一片火海！由于部队正在作战之中，没有时间寻找掩体，所以遭成了很大的伤亡。
李从文接到前线的报告之后，二话没说，命令部队加强攻势，不惜一切代价，用最短的时间把日军清除掉！
悲痛的中国士兵把日军团团围住，但是却没有发动进攻，而是制作了大量的燃烧瓶，点燃之后扔到敌人藏身的房屋里面，用冲天的大火和浓烟把他们全部逼出来。接着用火焰喷射器迎面喷射过去，把活生生的肉体烧的焦黑，以此来报复。
18日晚，李从文以伤亡五千余人的代价攻占马鞍山，控制了大军南撤的交通线。
19日凌晨两点整，上海派遣军在紫金山南麓的第101师团的阵地上面忽然响起惊天动地的爆炸声，持续了十几分钟之后，又响起了震耳欲聋的喊杀声，几十盏探照灯同时打开，无数巨大的人影冲向了日军阵地。
日军的第一道防线只坚持了不到二十分钟就宣告失守，中国军队尾随着溃退的日军向第二道防线猛攻。
日军前线指挥官一边指挥部队全力抵抗，一边呼叫炮火支援。眼前的一幕和十九路军在上海全歼第九师团时的景象如出一辙，第101师团长方寸大乱，以为中国军队故技重施，准备对自己的部队下手，急忙下令放弃第二道防线，全军后撤。第101师团这样一退，把友军的侧翼全部暴露出来，中国军队顺势发起攻击，又把两边的部队打个措手不及。
这时候，整条防线的日军都被惊动了，照明弹此起彼伏地在战场上面升起，把夜空照得亮如白昼。中国军队却突然停止了攻击，迅速消失在夜色之中。日军被这么折腾了一下，不知道中国军队到底要干什么，只好保持高度的警惕，等待黎明的到来。他们没想到的是，防守紫金山的大部分中国军队已经利用这段时间全部撤离阵地，转移到第6师团的右翼，只剩下教导总队的一个团坚守在头陀峰上。
