山西是內陸省份，位於黃河中游東岸，華北平原西面的黃土高原上。省境四周山環水繞，與鄰省（區）的自然境界分明。東依太行山，西、南依呂梁山、黃河，北依古長城，與河北、河南、陝西、內蒙古等省區為界。全境總面積為15.6萬平方千米，佔全國總面積的1.6%。疆域輪廓呈東北斜向西南的平行四邊形，南北間距較長，縱長約682千米。
山西省地處華北西部的黃土高原東翼，地貌從總體來看是一個被黃土廣泛覆蓋的山地高原，整個輪廓略呈由東北斜向西南的平行四邊形。地貌型別複雜多樣，有山地、丘陵、高原、盆地、臺地等，其中山地、丘陵佔80%，高原、盆地、臺地等平川河谷佔20%。大部分地區海拔在1000米以上，與其東部華北大平原相對比，呈現為強烈的隆起形勢。最高處為東北部的五臺山葉頭峰，海拔達3058米，是華北最高峰；最低處為南部邊緣運城垣曲縣東南西陽河入黃河處，海拔僅180米。境域地勢高低起伏異常顯著。
