柔道起源於日本，前身是日本柔術。日本柔術演變自古代的相撲，相撲分成二支：一支是以競技、表演、觀賞為目的的相撲；一支是以實踐為目的，為武士攻防技擊演化而成的柔術。
明治維新以後，柔術曾被取締，柔術家淪落街頭以賣藝為生，柔術日漸衰落，直至十九世紀中葉，一位日本東京大學學生嘉納治五郎，決心挽救日本的國技---柔術，他博採眾家之長，創立了以"投技、固技、當身技" 為主的新柔術，為區別舊柔術，他改名為"柔道"。西元1882年，這位具有膽識的柔術改革家在東京永昌寺開設講道館，並做為訓練中心，促進柔道運動現代化，柔道自此開始在日本興旺發展，並向世界傳播。
第二次世界大戰後，柔道在日本曾經銷聲匿跡了一段時間。到了西元1948年舉辦戰後第一次全日本柔道錦標賽，西元1949年日本成立柔道聯盟，西元1950年學校也允許開展柔道之後，柔道在日本又開始活躍起來。在國際上，西元1948年歐洲建立了柔道聯盟，日本於西元1952 年加入，後來該聯盟正式易名為國際柔道聯盟（上條虎雄，1982），總部就設在東京講道館，嘉納治五郎的兒子嘉納履正擔任第一任主席。1956年東京舉行第一屆世界柔道錦標賽，1964年日本東京第十八屆奧運會，柔道列為正式比賽項目。由國際柔道聯盟現共有167個會員國看來，柔道的蓬勃發展與獲得的支持自不用言諭，但其間之競爭亦相當激烈。
除男子柔道外，日本、法國、中國、德國等許多國家開展了女子柔道運動，並組織了各種洲際、區域性女子柔道比賽。西元1980年舉行了第一屆世界女子柔道比賽，1982年國際柔聯決定女子柔道正式列為比賽項目。