泰山殿曾经是宝应境内最大的庙宇，本为江淮巨观，名播大江南北。乾隆皇帝下江南，路过宝应，见其盛况，赞叹不已，挥毫题匾，曰：“天下第一名山”。然而，泰山殿清末以来屡遭战乱和火灾，至二十世纪五、六十年代已荡然无存。

原来的泰山殿是个什么样子呢？
泰山殿的山门极有气势，座北面南，两侧为八字形的照壁（即短墙），中间耸立一座高大的石基木牌楼。牌楼为四柱三檐，石础上矗立四根粗大方柱。整个牌楼为斗拱型，未用一根铁钉，枋之正中匾额上为乾隆御书斗楷“天下第一名山”。牌楼之下，左右各踞一座石狮，为常州府某私人相赠（今二石狮尚存于纵棹园门前）。石狮前各有一根旗杆。牌楼前面有一照壁，遮护山门；门前以方石为路，宽约丈余；向内纵深有百丈之遥，每隔一个大天井便是一座大殿，前后殿宇共达七进，占地二百余亩，殿房三百余间，气势极为宏伟。
过牌楼便是一个大天井，两侧为十殿阎王殿，类似于今日扬州瘦西湖的“西游幻宫”，天井正面为高大的天王殿，殿有三个大门。东门前有水井一眼，圆石板覆盖。殿中间供奉一尊弥勒佛坐像。两侧为四大天王（又称四大金刚），殿前有一匾额，上书“泰山岩岩”四个大字，相传出于朱天宫的后人六岁孩童之手。越天井第二进为岳王楼，上下两层，楼上供奉岳飞坐像。第三进为无梁殿，供奉二十八宿神像，这在全国寺庙中是极为罕见的。殿的东侧为娘娘殿。第四进为梳妆楼。两层，开始可能是作为碧霞宫的前殿，民国二十五年更名为“大悲楼”。楼上供奉一尊神像。第五进就是建于明代嘉靖四十年（1562）的大名鼎鼎的“碧霞宫”，又称圆通宝殿，是泰山殿的主体建筑。整个大殿金铺彩绚，花团锦簇。殿堂东西，各有一鼓一钟，大钟是明代铜铸，其体积、重量与南京大钟亭的巨钟相仿。大殿中央还有一只铜铸大香炉，香炉左右各有一只铜铸大花瓶和一只铜铸蜡烛台，这五件大铜器都有一公尺多高，皆为明代铸造。第六进为高大巍峨的玉皇阁，这也是仿泰山而建。玉皇阁后为大观阁，两阁之间的大天井宽有三十余丈，一河由西向东从中流过，河两岸有四棵参天银杏，相传植于隋唐年间，挺拔茂盛，中有砖桥一座，名“丹墀桥”，因为人们常到大观阁向观音求子，所以俗称“保子桥”。第七进，也是最后一进，即大观阁，又叫观音阁。建于隆庆二年（1568），仅迟于碧霞宫六年。
泰山殿七进正殿的两侧为两排整齐的僧房。僧房之外的两端，东侧为厨房和方丈室，西侧为祖塔，历代和尚安葬于此。
总览泰山殿，整个建筑群巍峨壮观，层层殿阁金碧辉煌，七进殿阁，供奉陈设，各有不同，引人入胜。在泰山殿西运河堤上又有石牌坊一座，上书“碧霞灵迹”四个大字。