南山寺位于泰州古城东南的南城河畔，始建于唐僖宗乾符三年（公元876年），由铁心坚禅师所建，朝廷赐额“护国寺”。北宋治平元年（公元1064年）改为禅寺，更名为“资福禅院”。宋徽宗崇奉道教，将寺院改为道观，政和七年（公元1117年），资福禅院改为了道观，名“神霄玉清万寿宫”。南宋建炎元年（公元1127年）恢复佛寺，升院为寺，名“资福禅寺”。淳熙十年（公元1183年），寺毁。绍熙年间（公元1190年-公元1194年），由僧绍信、觉妙重建。嘉定年间（公元1208年-公元1224年），僧人图珍、惠文奏立戒台。元至正二十四年（公元1364年）僧主僖重修。洪武十五年（公元1382年），南山寺为“祝圣道场”，并于寺内设佛教管理机构僧正司，掌管泰州地区的佛教事务。永乐十八年（公元1420年）铸巨大铁钟一口，钟声洪亮，声闻数十里，惜已不存。天顺八年（公元1464年），僧正行琪将南山寺加以维修。嘉靖二十八年（公元1549年），真澄法师罄所藏得白金三百两，鸠工庀材，又命从众募劝，历经两年时间终于使寺院殿堂佛像焕然一新。是年邑人李鹏（浙江余杭县令）撰《重修南山寺碑记》镶嵌于墙，记载了南山寺的历史以及此次修复的过程。崇祯五年（公元1632年），天竺僧方志重建浮图。