甘泉书院，当年小有名气，明末后，书院失修，清咸丰年间又遭战火。至今湛若水手书勒石的“甘泉”碑尚在，余皆荡然无存。书院遗址，已成一片葱绿茶园。因“甘泉”石刻犹存，故而称此地为“甘泉石”。
当年，甘泉书院倚山面溪，崇山峻岭环峙左右。相传书院有讲堂、书斋等三进房舍。湛若水亲笔书写的“甘泉”二字刻石悬嵌门额。是湛若水聚众讲学之地。
明代理学家们把讲学的风气刮上了九华山顶。王阳明倡仪在九华建书院讲学于前，湛若水在九华聚众讲学于后。湛若水是明代哲学家，官至礼、吏、兵三部尚书，属明儒理学的白沙学派，主张“随处体认天理”的理论，而王阳明则主张“致良知”学说。两人虽各立门户，但交往甚密，互有酬唱。王阳明在国史馆讲学，湛若水与王阳明等人为伍，声望日重，世称“甘泉先生”（湛字甘泉）。他叮嘱弟子江学曾等人在九华筹建书院，并修书给地方官员，请予鼎力协助。
弟子们遵嘱在九华营建书院，不久竣工，以老师雅号命名为“甘泉书院”，恭候师尊驾临。后来湛若水母亲去世，湛即离京去职三年，赴九华讲学。湛若水讲学时，学生济济一堂，十分兴盛。
