清朝末年，朝廷籌建盧漢鐵路。盧漢鐵路是北京盧溝橋至湖北漢口的鐵路，是中國第一條南北鐵路幹線。天津關道盛宣懷被任命為督辦大臣，統籌盧漢鐵路的修建。盛宣懷在對盧漢鐵路進行勘察時，將鄭州列為最高等級的一等站。鄭州隨即成為盧漢鐵路的重要樞紐。 不僅如此，1905年動工建設的隴海鐵路，也將鄭州作為重要的站點。這樣一來，鄭州就成為中國兩條南北鐵路幹線的交匯點，有“中國鐵路心臟”的美譽。南來北往的鐵路幹線，讓鄭州變得繁榮昌盛起來，成為當時中國有名的鐵路樞紐和商品集散中心地之一。或許正是因為此，1954年，河南省將省會從開封遷往鄭州。這一舉動，再次促進鄭州的發展。所以，人們稱鄭州是一座“火車拉來的城市”。
鄭州依然保持著中國鐵路心臟的美譽。除了京廣鐵路和隴海鐵路外，還有京廣高鐵、鄭西高鐵、鄭徐高鐵、鄭渝高鐵、鄭合高鐵、鄭濟高鐵、鄭太高鐵等7條高速鐵路交匯於鄭州。鄭開城際鐵路、鄭焦城際鐵路、鄭機城際鐵路、鄭洛城際鐵路、鄭登洛城際鐵路、鄭許城際鐵路、鄭平城際鐵路、鄭新城際鐵路等8條城際鐵路，織成了一道密密麻麻的鐵路網。 鄭州城區及其周邊，分佈著27個各種級別和型別的火車站。其中，包括鄭州站、鄭州東站、鄭州北站、鄭州南站、圃田西站5個特等站。鄭州北站是亞洲最大的列車編組站，圃田西站則是中國最大的零擔貨物轉運站。
