日本历史上，除王公贵族外，只有武士才能佩长刀，一般平民是无权使用的（但是可以配带胁差）。武士佩刀一长一短，长刀为太刀或是打刀，短者为胁差，两把刀使用上有分野，长刀是主武器，胁差是备用武器，是在长刀损坏时，才使用的，平常不会使用，此外胁差也是切腹自裁专用的兵刃。按习惯武士出门之前，先会将胁差插在腰带里，然后用右手提着刀，走到门口的玄关处穿上鞋以后，才再将刀插在腰带里。刀佩带在左腰，是为了方便以右手拔刀。短刀除外，尤其是为配合盔甲的马手差（めてざし，Metezashi）短刀。

此外，武士以自己的刀为荣耀，碰撞武士的刀鞘，会被视为不礼貌。这也是为什么日本人行走都是靠左边。刀佩带在左面，即使两个武士在狭巷相遇，他们的刀鞘也不会互相碰触。武士到人家中探访，也会先在玄关把刀解开，然后用右手提着，再进入屋内。用左手提刀入户，表示可以随时用右手拔刀，是不信任的表现。除非有合理的原因（左撇子），否则也会被视为不礼貌。

日本刀显现了日本铸剑技术在中古至近代领先世界各国的地位。在中国明朝洪武年间，锦衣卫在大将军蓝玉官邸内，搜出近万把日本武士刀，朱元璋即以谋反罪逮捕蓝玉，处决相关谋反人士万余人；明军在外出作战时，也有相当比例的部队装备来自兵仗局所打造的或购自日本的倭刀[1]。明末崇祯年间宋应星著作《天工开物》提及“倭刀出鞘，暗室生辉”之赞许。