秦莊襄王元年（公元前249年），秦軍攻入韓國，三川郡郡治洛陽，不久遷至滎陽，鄭州市區所在的管邑隸屬於滎陽下轄的京縣。秦王政十七年（公元前230年），秦又置潁川郡，郡下置新鄭、苑陵（今新鄭市東北），陽城（今登封市告城鎮）等10縣。
漢王二年（公元前205年），劉邦進佔洛陽後，改三川郡為河南郡，於郡內新置密、成皋（今滎陽市汜水鎮）、故市（今鄭州市區北15千米）、中牟等縣，並將新鄭、苑陵二縣劃入河南郡。漢武帝元封元年（前110年）到嵩山封禪，劃地置崇高縣，不久，又置綸氏縣（今登封市穎陽鎮），皆屬潁川郡。東漢改河南郡為河南尹，將崇高縣併入陽城縣。今鄭州市區所在的管邑隸屬於漢高祖所封閆澤赤為侯國的故市縣，至漢武帝劉徹元鼎五年（前112年），故市侯國被廢，管邑劃歸中牟縣。東漢以後，“管邑”之名逐漸為“管城”所代，依屬中牟縣。
元初將新鄭縣劃歸鄭州，鄭州屬汴梁路。至元二年（1265年），新鄭、密縣改屬鈞州，滎澤、原武劃歸開封府。鄭州僅領管城、滎陽、汜水、河陰4縣。
明朝，對全國地方建置進行改革，實行行省、府（直隸州）、縣三級制，管城縣裁入鄭州。時鄭州雖仍領有滎陽、滎澤、河陰、汜水四縣，但卻是作為屬州（縣級）。同中牟、新鄭、密縣同隸屬於開封府。
民國二年（1913年）2月，全國統一將府及直隸廳、直隸州、散廳、散州治所皆改為縣，鄭州直隸州改稱鄭縣，改開歸陳許道為豫東道。
1948年10月鄭州解放後，在鄭縣城區設立鄭州市，直屬河南省領導。1953年2月，鄭縣撤消，其轄區劃歸鄭州市及新鄭、中牟2縣。1954年10月30日，河南省政府由開封遷往鄭州，鄭州市從此成為河南省省會。
