娘子關歷史悠久，據記載，隋開皇時曾在此設定葦澤縣。唐高祖的三女兒、唐太宗的妹妹平陽公主，曾率娘子軍在此設防、駐守，故名娘子關。另一說為此處有妒女祠，祀介子推之妹，據說有婦女豔妝而過，必然雷電交加，娘子關因此而得名，現今祠已廢，有唐人書《妒女頌碑》，現藏山西省博物館。
娘子關之名，最早見於金人元好問《遊承天懸泉》詩，該詩有娘子關頭更奇崛之句。乾隆二十九年（1764）編修的《大清一統志》是首次收入娘子關這一名稱的官修文獻。關於娘子關這個名稱的來源，有不少傳說。明代顧祖禹在《讀史方輿紀要》中說，凡婦人服靚妝經過妒女祠時，必興雷電，大發嫉妒，故為妒女，娘子關因此得名。
《元和郡縣誌》則說，春秋時晉國介子推的妹妹介山氏，焚死綿山，後人為之築妒女祠。另一個傳說是唐太宗李世民的妹妹平陽公主曾率娘子關在此鎮守，並建立關城，因而把此關稱作娘子關。然而這些說法皆無信史可據鐵路（即石太鐵路）建成通車。中華人民共和國成立後，又相繼修通了經過娘子關的陽井公路和娘子關至舊關的葦舊公路，並完成了石太鐵路的複線工程和電氣化工程，這些交通設施在經濟建設方面發揮著日益重要的作用。
