历史中多认为，忍术思想的根源来自中国殷周之际的姜太公吕望。是他首先提出了忍术概念，并写在了传世名著《六韬》之中。后来，孙武、张良、韩信等相继对忍术理论进行了完善。特别是孙武的《孙子兵法》倍受忍者阶级推崇此时忍术也基本形成了由权谋、形成、阴阳、技巧等几部分构成的雏形。随着忍术传到日本，忍者也就在日本出现并发展起来。
日本人则认为忍术的理论基础是由中国传来日]本的孙子兵法演化而来的，之后再加上修练道和山中的伏击战技巧发展而成的，就是所谓的“风、林、火、山”四字真言。在平安时代时武士阶级兴起之后大力吸取了山伏击战的兵法加以发展。到了源平时代，源义经成功的使用了山中伏击的技巧，完成了攻击面战法的理论。在南北朝时代，楠木正成发展出防御面的兵法，到此为止，忍术跟武术才分开成不同的系统正式独立出来。
历史上大名鼎鼎的服部半藏正成就是中国人，他姓秦，秦氏家族是公元三世纪末四世纪初时从中国吴国（日本和服的传统称呼是“吴服”，正是取自秦氏家族出身的吴国）渡海定居日本的，之后就改了个日本姓服部。服部半藏投效德川家康，后来移居江户。传说中这位忍者最终悟出了忍的真谛，这是多少