天山公园位于延安西路1731号。1958年，为填埋法华浜而在园址大量取土，形成人工湖，因其形似葫芦，取名葫芦湖。人民政府在湖的周围种植树木，辟建为公园，于1959年国庆节取名法华公园对外开放。公园原占地面积7.2万平方米，1998年因建造轨道交通明珠线和延安西路拓宽征地4300平方米，现有面积6.8万平方米，其中水体面积1.67万平方米，草坪1.24万平方米。公园布局精巧，环境幽静。拥有山、湖、池、岛等景观。
1965年，公园改名长宁区国防体育公园。1973年，公园划归区园林管理所管理，开始全面改造。由市园林局投资，上海市园林设计院周在春、任达、孙宝峰、陆雍等工程师先后设计，由上海市园林工程公司承建。植树128种，9265株，辟建儿童游乐园等。
1975年5月，公园改名天山公园并对外开放。1977年建成碧波廊。1984年，构筑嵘山和峦山。峦山在葫芦湖北面，为全园最高点，山上有一亭，初名山色亭，1989年为纪念长宁区与日本大阪府建立友好城市一周年，在亭下立石碑一块，辟建樱花林，山色亭遂改称樱花亭。嵘山位于湖东，绵延50米，主峰高 5米。山上石径纵横交错，太湖石围成的树坛，高低错落，植有梓树、白榆、女贞等乔木，山下植有油橄榄、蚊母、丝兰和球类植物。在曲折的石径旁丛植茶花、桂花。杜鹃等。1985年，建成湖光榭和风光岛。
1987年4月，中共长宁区委、区政府决定在公园北部辟建国防园，由国防教育馆和兵器陈列馆两部分组成。国防教育馆分为东西两馆，东馆由张爱萍题写馆名，于1987年8月1日开馆；西馆于1989年10月落成，由秦基伟题写馆名。1991年增设双拥馆（拥军优属、拥政爱民馆），由国防部长迟浩田题写馆名。
