自晋至隋，刀的形制基本上和汉代相同，只是刀的制法有些不一样。由生铁与熟铁合炼式的灌钢法逐渐代替了百炼法，使刀刃的锋利程度得到了提高。据《唐六典》记述，唐代的刀，分为仪刀、鄣刀和横刀三种。仪刀是皇官禁卫军使用的兵器；鄣刀是帝王公卿佩带用的佩刀；横刀则是战斗时用的刀。到了唐宋宗开元年间（公元713一741年）出现了一种新式的长柄大刀，名叫“陌刀”。它两面有刃，通长1丈，重15斤或有更重者。如唐将张兴持握的陌刀重50斤，在镇守饶阳城村，往往“一举刀辄数人死。”（见《唐书·杜伏威传》)
我国第一部官修兵书《武经总要》载，宋代的刀，主要有手刀、掉刀、戟刀、偃月刀、眉尖刀、凤嘴刀和笔刀等8种（图2）它们的形制较前代有了很大的改进，去掉了环状式的刀柄和不适于兵战的饰物。如掉刀，刃首上阔，长柄；屈刀，刃前锐，后斜阔。两者的刀柄下都安装有金属套。
伴随着中日经济文化的交流，这时日本刀开始输入中国，欧阳修曾作《日本刀歌》，赞叹日本宝刀之精美、锋利。日本刀以中国的汉刀为其始型，至宋代，其工艺水平已超过中国。日本刀输入中国后，对中国武术的发展起了一定的影响。
明茅元仪在《武备志》中说，元明两代，最常用的刀只有四种：一日“偃月刀，以人之操习，示雄实，不可施于阵地。”二日“短刀，与手刀略同，可兵用于马上。”三日“钩镰刀，用阵甚便。”四日“长刀”以日本制造的甚利，其刃长5尺，柄长1尺5寸，共重2斤8两（图3）。
明清时期，日本处在室町、战国、安土、挑山、江户时代，国内阶级斗争剧烈，战士势力崛起，故此日本的武艺这一时期发展很快，其中以刀术为最。明武术家程宗猷说：日本刀“锻炼精坚，制度经利，靶鞘等物各各如法，非他方之刀可并，且善磨整，光耀夺目。令人寒心”；其用法，“以双手用一刀也”，“左右跳跃，奇作诡秘，人英能测，故长技每每常败于刀”(《耕余剩技》)。明代我国曾大量输入日本刀。明清时期的军事家、武术家也十分重视研究和汲取日本刀法的技艺来充实中国武术。戚继光在《纪效新书》中记载有“日本刀谱”，茅元仪在《武备志》中载有日本隐流刀法六势。程宗猷还将所学日本刀法整理为三十四势，一一命名，详加叙述，并将日本刀法创编为完整的中国式套路，一直流传至今。
清代兵法有便于双手握持的长柄大刀和单手砍杀用的短柄军刀。至于武官用的腰刀，与明代刀最大的不同是刀上有两条血槽。皇室用的佩刀，一般都楼金嵌玉，其刀鞘遍体纹饰。只有武师教练武生用的刀异常笨重，有的重达百斤以上。
鸦片战争以后，欧洲列强和东洋军队的洋炮大枪无情地践踏着中华大地。英雄的中国人民只得依靠手中的大刀，长矛，土枪和土炮奋起战斗。清末民间秘密结社之一的大刀会，就曾聚众举刀反抗外国的侵略势力。1937年，中国军队在喜峰口和日本军交锋，使用大刀砍杀了许多侵略军。在红军、八路军和解放军中都装备有大刀和刺刀，它们在革命战争中，也发挥了应有的作用。
现代武术刀的种类很多。有单手持握的单刀、双刀、砍刀、马刀和九环刀；有两手使用的长柄刀，还有特殊形状的戟刀、三尖两刃刀、麟角双刀等等。现代刀术的内容极其丰富。常见的有梅花刀、万胜刀、追风刀、龙形刀、滚汤刀、花刀、劈挂刀、六合刀、八方刀、太极刀、三才刀、八卦刀、五侯刀、燕青刀、春秋刀、连环刀等数十种之多。习练起来，随刀形、套路的不同、其风格也不尽一致。但总的特点是勇猛快速、刚劲有力，运动激烈。既能增强体质，又能培养勇敢、机智、敏捷等优良作风和身体素质。