在束城的扫北军也面临着两难的选择：固守，条件已不如独流、静海，粮食将尽，且清方已加紧开挖长壕；突围，行军中部队易受马队的袭击而遭损失，且有大量伤足的战士尚未康复。但3月7日深夜，太平军还是趁大雾迷漫之际，从东南方向涉水突围了。
8日，太平军再次占领献县。9日，前队进占阜城，但后队尚在40里之外的富庄驿。当晚，胜保率马队追至阜城。僧格林沁留在富庄驿，并派兵在驿南树林中设伏。10日凌晨，太平军后队行军遇伏，“不战自乱”，“四路奔溃”，经前队接应，才于当日黄昏进入阜城，或扎营附近村庄。但次日黎明时分，城外各营又遭到清军马步队“一齐合围，四面攻击，彼此不能相顾”。由于是连夜扎营，未及修筑较为坚固的防御工事，前二、前五两军的营盘首先被攻破，仅逃出70余人；上午，后一等军的营盘又被攻破，逃出一队，经清军冲杀，“剩有百数十人入城”。午后，右军先锋营的营盘又被踏陷一半，经朱锡琨率众用砖石奋力抛击，又得城中战士出援，才将清军击退。这是扫北军第一次有几个营盘同时为清军所攻破。据陈思伯说，“此败由于足冻不能得力也”。清方的奏报说“毙贼六七千名”，数字容有夸大，但扫北军无疑是遭到了空前的损失。