始建于晋,初称遵善寺,隋文帝开皇二年扩建,更名大兴善寺。印度僧人达摩笈多等曾住寺内译经。唐玄宗开元年间,号称“开元三大士”的印度僧人善元畏、金刚智、不空到此寺传授密宗,成为当时长安翻译佛经的三大译场之一,成为中国佛教密宗的发源地。