中国五岳聖山の一つ中岳と呼ばれる嵩山は太室山と少室山の二つの峰が連なりその少室山の松林の中の寺という意味で少林寺と名付けられた。
この寺は、西暦495年北魏考文帝がインド僧跋陀三蔵のために建立した寺です。その後まもなく南朝梁の武帝に失望したインド僧達磨がこの寺にやってきて面壁九年の修行をして事は有名です。 　　　　　　
また達磨は、座禅修行による体力の衰えを癒すため易筋行を行ったのです。この易筋行が今に伝わる中国武術の基に成ったので、中国武術は少林寺より始まるといわれてきました。 　　　　　　
門人たちも仏法を学ぶ以上に武術修行に力を入れたので本来の禅門の寺というよりむしろ武術寺としての方が有名になったのです。
またこの寺は、完全自給自足を心掛けたようで少林寺で何年か修行した者は下山しても飯の食いっぱぐれは無いと言われ他の仏寺とは多くの事が異なる独特の寺だったのですが辛亥革命から大戦期、文化革命と荒廃しましたが今また仏門の寺として動きはじめているようです。