天中山又名天台山,原是一座圆形小山,占地约540平方米,高3.6米,位于汝南县城北两公里处。据史载:“禹分天下为九州,豫为九州之中,汝又为豫州之中,故为天中”。另一说为古代无钟,白天的时辰只能用日影的变化来计算,汝南旧志记载:“自古测日影,以此为正,故筑土累石以记之”。所以称汝南为天中。
“天中山”的名字自唐以后正式载于史籍,原因是颜真卿亲书“天中山”的碑文而得名。史载,唐德宗建中三年(公元782年),淮西节度使李希烈叛唐。建中四年(公元783年)朝廷派忠勇刚直、名重海内的三朝重臣颜真卿到许昌宣慰李希烈部,刚要宣旨,李希烈的亲兵养子千余人,手握钢刀,围着颜真卿,杀气腾腾,高声谩骂。颜真卿面不改色,不退半步。李希烈遂喝退众人,对颜以礼相待,许高官厚禄,共反朝廷,颜真卿至死不从。后又把他送到蔡州(今汝南城),现在天中山碑上的大字,就是颜真卿在汝南时所写的。淮西平定以后,人们为了纪念颜真卿,在汝南城内建立了“颜鲁公庙”。天中山由于颜真卿亲书“天中山”碑文而名享天下,成为历代官吏和士大夫拜谒和游览的场所。