世界上出土的最古老冶煉鐵器是土耳其（安納托利亞）北部赫梯先民墓葬中出土的銅柄鐵刃，距今4500年（公元前2500年）。中國發現的最古老冶煉鐵器是甘肅省臨潭縣磨溝寺窪文化墓葬出土的兩塊鐵條，距今3510年-3310年之間（公元前1510年-公元前1310年）。
中國在公元前6世紀已出現了成規模的生鐵製品，並將其運用到生產生活中。在此之前，最早冶煉鐵的記錄由公元前800年的虢國玉柄鐵劍保持。
在公元前1000年左右，在歐洲地區出現了鐵製工具，大約是由小亞細亞慢慢地西傳而來。在尼德蘭，大約在公元前800年左右出現鐵製工具。而因為羅馬帶入文字，所以尼德蘭的鐵器時代大約於公元50年結束。
人們最早知道的鐵是隕石中的鐵，古代埃及人稱之為神物。在很久以前，人們就曾用這種天然鐵製作過刀刃和飾物，這是人類使用鐵的最早情況。
地球上的天然鐵是少見的，所以鐵的冶煉和鐵器的製造經歷了一個很長的時期。當人們在冶煉青銅的基礎上逐漸掌握了冶煉鐵的技術之後，鐵器時代就到來了。
