秦庄襄王元年（前249）置巩县。巩县以“山河四塞、巩固不拔”而得名。
建国后，巩义隶属郑州专署，1955年1月改属开封专署，1983年8月复属郑州市。1964年9月巩县驻地由站街迁至孝义。
1991年6月经国务院批准，撤销巩县，设立巩义市。即取巩县孝义之意。
2000年，巩义市辖1个街道、18个镇。根据第五次人口普查数据，全市总人口777202人，其中：新华街道 87683人、米河镇 49858人、新中镇 21073人、小关镇 38666人、竹林镇 6308人、大峪沟镇 42928人、河洛镇 21448人、站街镇 32857人、南河渡镇 21255人、康店镇 46814人、孝义镇 42401人、北山口镇 44315人、西村镇 59840人、芝田镇 50551人、回郭镇 83092人、鲁庄镇 63568人、夹津口镇 26141人、涉村镇 27220人、桃园镇 11184人。
2003年，巩义市撤销孝义镇调整北山口等3镇部分行政区划设立5个街道办事处（豫民行批[2003]1号 2003年2月12日）（郑政办文[2003]17号 2003年2月27日）（出处）：
一、撤销孝义镇，将其行政区域划入巩义市城区，实行城市管理体制。同时，将北山口镇的北官庄、高尚、常庄3个村委会，站街镇的新沟、大黄冶2个村委会及芝田镇的后泉沟、高山2个村委会，共计7个村委会划归城区管辖。
二、行政区划调整后，设立新华路、杜甫路、永安路、孝义、嵩山路5个街道办事处。
新华路街道办事处管辖区域为：西至嵩洛南路，东至石河道，北至陇海铁路与石河道交汇处，南至人民路中心线。辖通桥路、交通路、文化街、育英街、新市街、新华中路、货场东路、新兴中路、拖厂、化工厂、桐本路、广陵路、钢厂13个居委会。总面积3.26平方千米，总人口255600人。
杜甫路街道办事处管辖区域为：东至原北山口镇常庄村和原孝义镇的和义里沟村东边界，西至伊洛河，南至原孝义镇东黑石关村、和义里沟村南边界，北至人民路中心线。辖原北山口镇的常庄和原孝义镇的和义里沟、和义外沟、东黑石关4个村委会。总面积14平方千米，总人口63398人。
永安路街道办事处管辖区域为：东至原北山口镇北湾村和原芝田镇蔡庄村西边界，西至原芝田镇的寇家湾、益家窝两村东边界，南至310国道，北至原孝义镇的东黑石关、和义里沟南边界。辖原芝田镇的后泉沟、高山2个村委会。总面积3.5平方千米，总人口32040人。
孝义街道办事处管辖区域为：东至原孝义镇烈姜沟、龙尾村的东边界，南至陇海铁路、石河道，西、北至伊洛河。辖原孝义镇的孝南、孝北、南地、小沟、桥上、西沟、二十城铺、石灰务、烈姜沟、龙尾10个村委会和光明路、嵩洛路、火车站、城西、部队5个居委会。总面积22平方千米，总人口45938人。
嵩山路街道办事处管辖区域为：东至黄冶河，西至石河道和原孝义镇的烈姜沟村东边界，南至310国道，北至孝站路。辖原站街镇的新沟、大黄冶和原北山口镇的北官庄、高尚共4个村委会。总面积12平方千米，总人口31394人。
