十七日晚战斗开始了，三纵一部配合八纵，首先肃清南关车站的农林试验场、东闸口、十六营房、苗圃以东及曹门关、宋门关区域之敌，并抢占了宋门关，尔后由东面、北面实施攻城。八纵首先肃清南关车站及飞机场、十七营房、七营房等以西区域及西门外之敌，尔后由南面、西面实施攻城。总攻前各关大部守敌被肃清。
十八日夜晚十一时，总攻开始了，夜幕笼罩着的开封城，弹雨横飞，炮火轰鸣，这座古老而宁静的城市，在接受着战斗的洗礼，我们为了抢时间，趁守敌惊慌失措，不给守敌以进一步加强城关防御的机会，采取了突然袭击。八纵六十九团三营乘我军炮火压制敌人之时，绕过城门外两侧的火力点，进行了连续爆破，结合突击，用五分钟时间突破小南门，抢占了城门楼，控制了小南门的阵地。
当时敌人在小南门城楼上筑有环形防御工事，这对我军攻占城楼后利用原有工事打击城内敌人反扑，巩固突破口扩大战果，是十分有利的。但由于城门外两侧敌人的火力点尚未被扫清，打开的通道天亮后为敌内外火力封锁，遮断了我城内外部队的联系，但在城头上可以互相喊话。
小南门的丢失，使敌人像输红了眼的赌徒一样发起疯来，刘茂恩、李仲辛即派保安七旅旅长率部配合六十六师工兵营，辎重营疯狂进行反扑。敌人以密集炮火封锁了小南门我后续部队的进城道路，切断了已突入城中我军五个排与城外部队的联系，然后全力反冲锋，以图拔出这个楔入敌人的钉子，我入城部队陷入孤立，后续部队不能投入城内，情况异常危急。
我们命令入城部队必须不惜一切代价坚守到下午四时，以保证突破点的巩固，同时指挥八纵迅速组织后梯队重作突破。登上城楼的部队冒着敌人的枪林弹雨，在瓦砾浓烟中一次又一次打退了敌人的进攻，部队尽管伤亡惨重，但还是死顶不退，决不让敌人夺去阵地。城外部队则加紧迅速扫清城门外两侧敌人的外围火力点，为腹背受敌的城内我军解围。
与此同时，我们命令正在攻击宋门的三纵，利用敌人炮火集中向小南门轰击和组织反扑时，加强对宋门的攻击，很快奏效，十九日上午就突破了宋门，当敌人指挥部发现宋门被我突破时，马上调集炮火对宋门进行猛轰，企图消灭我突击队于城门口，阻止我军前进。
我们则利用敌人炮火间隙一下突进两个团，随后三纵将攻曹门的两个团迅速转到宋门投入城内，在站稳脚跟后，即分两路，向纵深发展，一部向小南门方向突击。向小南门方向突击的部队接受任务后，立即不惜一切代价，涉水过河，逐屋打通墙壁，迅速与小南门被围的八纵战友会合，这样，开封城内从小南门到宋门的东南角以及城墙均被我控制，形势对我军向纵深发展十分有利。八纵乘三纵突破守门敌人火力转向宋门之际，组织力量迅速扫清小南门外两侧敌地堡群，两度控制突破口，主力部队随即打入城内与城楼坚持部队会合，随后又相继突破大南门和西门。
这样三纵、八纵主力部队全部突击城内。纵队指挥也进城亲临指挥，各部队多路向敌人纵深穿插进行激烈巷战，二十日晨兵团前线指挥部挺进城内理事厅街天主教堂指挥。敌人的反冲锋被打退了，率部反冲击的保安七旅旅长见势不妙，就在上午十一时向上司谎报“俘敌百余人”的战况后，即逃之夭夭。
当晚敌六十六师把所有部队撤至龙亭、教养院和城西北角，保安部队撤至省政府。收缩防线固守待援。