五月四日凌晨十二点半，暂编第七旅副旅长梁乐贤负责指挥重炮团第三营，第四营，第九团27营，团部直属重迫击炮连，战防炮连，工人武装队共三千人部队负责留守北关镇。

而第九团团长黄毅轩则是带领团主力，掩护司令部和重炮团第一营，第二营撤离。

日伪军部队逐步开始将北关镇合围起来，梁乐贤指挥的留守部队，彻底陷入到日伪军攻击中。

从凌晨一点钟开始，日军27师团，36师团，皇协军第八军展开数次集团冲锋，日伪军以大队和团为单位实施攻击，连续猛攻，枪炮声几乎没有停歇的时候。

重炮团第三营和第四营都是德制105MM榴弹炮，这种榴弹炮比较重不方便进行转移，只能够留守下来，但二十四门榴弹炮不断为前线部队进行支援，将日伪军一次次攻击打退。

到凌晨三点钟，日军战车师团赶到北关镇战场，火箭炮分队和机械化炮兵联队投入到作战中。

日军不断进行炮击，密集炮弹将北关镇彻底摧毁，但阵地工事却没有受到太大影响。

北关镇作为豫东地区根据地核心所在，这里工事阵地都是国防永久性工事，能够承受重炮直接打击。

凌晨三点半，日军战车部队出动，日伪军在战车部队掩护下，开始冲击阵地。

但守军还以颜色，各种反坦克武器纷纷投入到前线上，火箭筒，战防炮，机关炮等武器，这些武器射击，给日军战车部队带来超过十辆坦克损失，日军坦克被迫后退，暂时停止参战。

日军和皇协军开始以人海战术进行冲锋，他们想要依靠人数优势来取胜。

北关镇这里作战从凌晨一点钟持续到早上六点钟，连续五个小时作战，日军付出五百多人伤亡，皇协军伤亡更是超过八百人，他们损失十五辆坦克，但还是没有拿下阵地。

但守军部队伤亡也超过六百人，而且榴弹炮的炮弹几乎没有多少了，这五个小时作战里，榴弹炮成为主要打击力量，给日伪军带来沉重打击。

早上六点半，日军飞机开始来到北关镇实施轰炸，日军没有投掷航空炸弹，而是直接投掷了纵火弹。

整个阵地瞬间被火焰覆盖，守军付出伤亡，被迫开始放弃阵地，转入到二线防御阵地里。

1942年五月四日上午七点半，暂编第七旅组织一次反击，但被日军战车师团打退。

日伪军部队重点对北关镇实施攻击，他们动用各种办法，纵火弹，毒气弹等武器纷纷使