古麓山寺由敦煌菩萨笠法护的弟子笠法崇，创建于西晋武麓山寺正门帝泰始四年（公元268年），距今已有1700多年的历史，是佛教入湘最早的遗迹。它不仅是湖南第一所佛教寺庙，也是我国早期佛寺之一。麓山寺门为牌楼式，正中之上镌刻着“古麓山寺”四字，门楼两侧镌有著名的楹联“汉魏最初名胜，湖湘第一道场”，准确地概括了麓山寺的历史地位。现今的古麓山寺，进香拜佛者络绎不绝。殿堂掩映在层林叠翠之间，晨钟暮鼓，梵音阵阵。
