始建于北魏太和十九年(公元495年),为安顿印度高僧跋陀,孝文帝诏令于少室山阴密林之中创建寺院,因而得名少林。又一印僧菩提达摩飘洋过海,历时三年到达广州,途经南京 ,一苇渡江,于北魏孝昌三年(公元527年)来到少林,九年面壁,重回寺院,创立禅宗。因而达摩被尊为禅宗初祖, 少林寺被誉为禅宗祖庭。禅宗的修练方法以壁观坐禅、静坐修心为主,时间长了肢体麻木,精神萎靡不振。加之少林寺地处深山密林之中,毒蛇猛兽经常出没,歹人侵扰。达摩祖师就创造了含十八个动作的健身操,供徒弟们演练,称为“达摩十八式”。经过历代武僧演练、完善和融汇贯通,于北宋时形成一种武术体系。少林寺禅拳合一,获得了高度的发展,博得“天下第一名刹”的美誉。现存寺院占地三万多平方米,中轴线上的建筑共分七进,依次为山门、天王殿、大雄宝殿、藏经阁、方丈室、立雪亭、西方圣人殿。珍贵文物有少林寺御匾、世民碑、达摩面壁影石、拳谱壁画等。
位于少林寺西五百米处,是少林寺历代高僧的墓地。现存自唐至近代的墓塔 240多座,占地13000多平方米,为中国现存规模最大的古塔建筑群。其代表性墓塔有唐朝的法玩塔、无名塔、宋朝的普通塔、元朝的古岩塔、裕公塔、明朝的小山塔、近代的行正塔等。