源于中国的剑术，在隋、唐时期传入日本，经日本人的研习修改，形成独特的刀法技术，古时用来保家卫国、防御外敌和维护社会秩序，现今才渐渐成为一项武术运动，改用竹刀、穿着护具对打。
    在公元前473年，中国的吴被越所灭，吴的难民由山东半岛及东夷诸岛国渡海逃亡到日本，同时并携带了青铜制的“戈”与“剑”等。再经二百多年后，中国进入生产铁器的秦汉时代，这些铁器也随同大陆与朝鲜渡海过来的移民们，一块抵达日本。二世纪后半叶，耶马台国女王，遣使贡魏四次，获魏明帝赠绢、铜镜和大量的武器如“铁矛”、“铁剑”。
    最初创定剑法三个段位者“天地人”也就是“上中下”段的人，据传为二世纪初，日本景行天皇之子“日本武尊”。此说乃是记载于距此六百年后(712年)完成的日本最初之书《古书记》和《日本书记》上的，但书上的内容大多属于类似神话的传说，内容就令人怀疑了。到第四纪中叶，在常陆国鹿岛的国摩真人，创出“神妙剑”的剑法，此即为有名的“鹿岛之太刀”，后世流派多源出于它。第八世纪末，桓武天皇的皇宫大夫和气清磨，建立武德殿，武人于此练武，始自桓武天皇于至历代“平安朝”的天皇，每年的五月五日，在此举行天览比赛。
    到了平安中叶的十一世纪初，由过去在战场上实战的经验，发现在马上作战时，使用砍斩的机会比刺击为多并较有利，也为了较利于拔刀，遂将原来单手使用，以刺击为主，削仅为副的双刃三尺直剑，改变形体为双手使用，以砍斩为主，刺击为副的单刃弯刀，也即成为今日“日本刀”的雏形。
    镇西八郎源为朝，剑技凌驾号称“西陲第一”之乃师，复创“阴阳”也即“左右”两个段位，加上原有的“上中下”其五个段位的构型，成为后世的规范。
    源义经(幼名牛若丸)，“平治之乱”其父源义朝被平清盛所杀，其母被掳并纳为妾。故义经得免死，软禁于山城国鞍马寺，读书习武。一日，于后山山谷中，遇上自称为“天狗”的异人传授剑技。义经将其融入日本刀独特的使用法，成为源家一统的剑法。此剑法遂经由其门下，么一法眼的门下八达人，成为有名的“京八流”或称“鞍马八流”，其支流等一直流传至今。
    镰仓朝以后，攻防的剑技与武具，亦益形进步与发达，为了防御战场上强而有力的矢箭，遂必须穿着厚厚的甲胄。而一旦到了白刃战时，为了对付此类甲胄，遂将三尺以上，甚至于达到四至五尺长的太刀，把剑尖垂斜于右或左后，扬剑从斜上方往斜下方砍下，或从斜下方往斜下方挥斩，所以才产生了“构”的构型。
    室町幕府末期进入了战国时代，于1544年火绳枪输入日本之后，厚重的甲胄已失去其防护的能力，遂改著用利于进退的轻巧护甲，刀剑的尺寸也改短。由常佩刀(刀刃向下，水平式挂吊于腰带上)改成为刀刃向上，斜插于腰带上，剑技也以攻击颈、喉、腰、腋下、股间与手脚关节等等，护甲所保护不到的地方为主。此时代学习剑法，以真剑、刃引(锻剑时没有嵌入刃锋的刀)、木刀等作“型”的练习。
    一代剑圣上泉伊势守信纲，发明以三尺余长的竹子，从留下刀柄的部分，往刀尖方向逐段割成四片、八片、十六片或卅二片，再以厚木棉布作成袋子把它套起来，做成素面素小手，可直接互相击打练习的“袋竹刀”，但一直到后世它除了其传下的新阴流，新当流，和部分一刀流所接纳沿用之外，它的流传并不普遍。
    战国过去，经桃山时代进入到江户时代，天下剑豪辈出，武道之兴盛达最高潮。1764年前后，中西忠藏仿拟头盔，护胸，笼手而发明了面，胴，小手等护套，并将竹子割成四片，加上先革，中结，约丝，柄革，锷而做成竹刀，然后限定打击有护套保护下的任何地方。当时剑术的练习与比赛，这就是现在我们所学习的“剑道”最初之雏型。但各流各派，仍保有其各自独创之“型”的剑法，故以真刀实战，仍需辅以型的练习，到德川幕末为止，天下的剑法流派，达二百余流之多。
    明治维新后，废藩治县，失去主家的武士们，纷纷沦为浪人。1876年发布除军人警官之外，一般人的带刀禁止令，使原来的武士们，为了生活，不得不转事农工商之工作，但却又因不擅其事，以致多陷入衣食无着，生活穷困的地步。
    明治十年西南战争爆发，警视局招募全国剑士，组织“拔刀队”讨伐西乡隆盛，十二年jch正式兴习剑术，同年五月，集各地剑士举行击剑会，首创制定“胜负三次”的办法，并由直心影流，鞍马流，宝山流，立身流，一刀流，传流，自源流，无念流，柳生流，镜新明智流等十流中，各采一式，制定成“警视厅流”之剑道型，此型后来也为全国的学校所采用。廿八年于京都平安神宫内，举行武德祭，重建武德殿，成立“大日本武德会”，卅六年制定范士、教士之称号，后再加炼士。
    第二次世界大战战败后的日本，被日本国土占领军总司令部，认定剑道为残酷恐怖的武技，遂与射击、铳剑术等，全面的禁止练习，一般人所拥有的护套，全部没收并予焚毁等。后来由森顺造氏等出面陈情并反驳谓：“剑道并非如贵部所思，专为学习杀刃为本旨之技，其所含更高次元的精神意义为：承习古传诸流攻防体技之间，不仅形而下之体格、体力、健康、长寿等之增进，更能具备形而上之观察、理解、判定、断行、思考、克己、撙节、礼让、信义、仁爱等精神上的教育，故贵部如此禁绝，是否悖民主主义之自由精神，何况，际此原子武器的时代，而却对此剑道有所畏惧而予禁绝，岂不是一件非常可笑的怪事，与浅虑谬误之指施？”，如上反驳提出后，剑道禁止的命令果获停发。昭和廿四年举办战后首次全国剑道竞技选手权大会，向总部提出申请，却未获正式批准，但也并不加以禁止，故就在这样形同“默许”的状态下举行。