公园从缘起、发展到形成，历经千余年，从一个侧面印证了泰州主城区城市建设、文化发展的历程，现存的许多自然、人文景观，充分反映了泰州丰富的文化底蕴。 (1140年)
时任泰州知州的王瑍为减轻泰州城区遭受旱涝影响，发展水上交通运输，方便居民汲水，于是开挖城区东、西市河。根据城区地形，将坑洼低地、旧水沟连接挖深，挖宽，形成河道，再与中市河及南北水关接通。工程完毕后形成了泰州外城河、内城河双水绕城特有格局。开挖东、西市河时大量土方被用于加固城墙，开挖西市河时有一部分多余之土被垒起，似小山墩。史载，当时高五丈，周一百二十余丈。这就是现今名为“泰山”的雏形。 (1217年)
州守李骏选择小山墩南面名为方洲的地方建造了一座园林，谓西园，方圆一百多亩，建成后于嘉定辛巳腊月写了篇《方洲记》，后来邑人名李公园。该园规模宏大，景点很多，主要景观有水云乡、醒翁堂、小有洞天、六宜、椒屿、桃源、知鱼、盟鸥、一春佳趣、瓢庵、七一泉、薝葡林、青龙庄、纯节、钓台等。这是迄今已知的泰州历史上规模最大的园林。 (1226年)
新任州守陈垓疏浚现在的小西湖，史载“周一百八十七丈建堤”。在小山墩上建楼，取杜诗中“西岳云峰起”之意名“起云楼”，高四丈，几乎与小山墩等高。登斯楼，极目远望，“距城百里举在目前”，天高气爽之日“京口诸峰，隐约可见”。俯瞰楼下，西园全景尽收眼底。在山墩南麓建安定书院，祀北宋大教育家胡瑗。这比扬州建安定书院早476年，是江苏省最早书院之一。与此同时，在小西湖边建亭、台、楼、阁。至此，以小山墩为中心，山墩上有楼，墩西有湖，湖旁有亭，墩南有书院，书院南有西园，泰州西门城墙内则成了名副其实的园林风景区。很可惜，这些景点在宋末元初时都毁于兵燹。 (1444年)
泰州同知王思旻在起云楼废址上建泰山祠。泰山之名由此始。这有三说：一谓建泰山祠为纪念胡瑗之友孙复(名泰山)；二谓赞扬胡瑗曾去山东泰山，与孙复、石介结伴自修，苦读淡食十多年，后来成为一代大教育家，建泰山祠为与安定书院相呼应，意成一体；三谓以泰州地名为名。 (1506—1521年)
泰州千总王华又在山南建玉女祠。到了明万历十年(1582)泰州兵备副使舒大猷为奉祀民族英雄岳飞将泰山祠改建为岳武穆祠。
清雍正年间邑人进士宫伟镠又在小西湖旁增建“春雨草堂”，其子进士宫梦仁归田后复加修葺。
西园历元、明两代而湮没。 (1821年)
邑人尤金镖、尤金城兄弟俩在西园故址建“城西草堂”，与小西湖旁“春雨草堂”遥相呼应。民间称为“尤园”，一时“邑中文士，流连其地，觞咏迨无虚日”，其盛况不逊于“春雨草堂”。邑人清贡生赵瑜曾作《草堂六言十二咏》传世，现在读来如重现“城西草堂”诸胜。 （1951年）
泰州市人民政府筹建公园，将市区许多具有文物价值的建筑、石雕、砖雕、花木、家具集聚公园，公园似乎成了聚宝盆。除了原光孝寺的戒台、钟楼巷的钟楼在上世纪九十年代移出公园外，其余仍置留园内。
上乘之物首推盆景园内数百件古盆景，松、柏、桧、枸、黄杨树桩盆景大小不一，其中精品有《巧云飞渡》、《鹤立衔芝》、《云恋奇峰》、《云鸾山岫》、《极顶烟云》等，在国内外比赛中多次获奖。加之原松林庵中遐迩闻名的六朝松断肢，北门水关老槐树的残躯以及移栽的“紫藤花架”的古紫藤树，公园成为泰州古树名木的“收容所”。本为明御史蒋科为其父蒋行请封后所建柱史坊，原物被改作烈士陵园牌坊安置在泰山桥边，而柱史坊底座上的四尊胡人石雕像原是撑石被卸下置于桂花园后河边，这是全省唯一的一组明代胡人石雕像，为省级文物保护单位。名宦储 墓神道上的翁仲、马、羊、龟等明代石雕在原动物园内与狮、虎、豹、熊各种动物相邻、结伴。一座贞节牌坊成为湖上小桥的支架，石柱上的楹联字迹至今仍十分清晰。原是明蒋科宅第墙上的近百块砖雕被移作烈士祠围墙上的装饰物，还被“好心人”涂上了一层油漆。泰山山腰、脚下，烈士祠台阶上、下及原公园大门旁五对石狮子年代久远，造型各异、风格不一，都是不可多得的古石雕作品。 园内许多明清建筑都从市区移建而来。望岳楼原是用光孝寺戒台殿木料改建而成。桂花园北三间明代建筑来自大林桥省保文物单位王氏住宅。园林管理处办公楼原是北门大华**院旁的一所清代钱庄的楼房。东园内一排建筑原是解放初棋杆巷上坝派出所的办公用房，其内一组典雅、古朴的红木家具堪称泰州一绝。至于园北一座殿宇那是明代泰山行宫的二殿。
已经具有千年历史的泰山公园，以它泰山的厚重，小西湖的秀美，盆景园的雅致及众多文物的璀璨，向人们诉说泰州历史的悠久，展示古城的灵气和神韵，体现名城历史文化的传承。当泰州以全新的开放姿态迈向未来的时候，我们应该留住泰山公园的文脉，留住人文泰州的根。