日本武士刀起源於中國唐代的唐橫刀，在隋唐時期，日本還沒有自己的制刀技術，完全是通過模仿和學習中國製刀技術來生產刀劍，當時的日本刀大都保持了漢代環首刀的基本特點。在唐代白江口之戰中，由於唐橫刀的劈砍破甲能力以及柔韌度超過了同時期的日本刀，身穿皮甲的日本武士毫無防護能力，日本舉國的精銳部隊大敗，此後日本本土陷入了極度的恐懼之中。在幾年的恐慌之後，日本人認清了自己的實力，於是以謙卑的姿態求學於唐王朝，先後派出了十餘批遣唐使者來中國學習深造，其中許多是當時日本的能工巧匠，他們把唐橫刀的制刀技藝帶回了日本，經過模仿逐漸形成了現在的日本武士刀，日本正倉院收藏著一把精美的唐刀，非常珍貴，被視為日本國寶，武士刀以其優良的效能在世界冷兵器中佔有絕對地位並享有最好的口碑和名譽。
