邢澍不仅是清代中叶享誉国内的朴学大师，也是一位善于吟咏的诗人。洪亮吉曾称他“吟诗不已复著书”。他创作之勤奋在江浙学界颇具声名。按常理应该有大量诗作传世，可惜他的诗歌作品目前所能采辑到的仅仅88首，其中《南旋诗草》70首、《长兴县志》收录10首、《清仪阁杂咏》存录6首。另外，我们收集题画、题赠2首，其余作品散失殆尽。
邢澍的诗无论思想内涵，还是审美情趣，前后阶段泾渭分明。嘉庆十四年（1809年）之前创作的诗注重教化，意气昂扬，精神饱满。后期作品如《南旋诗草》重在表现自我情绪，基调低沉，充满感伤与旷达超脱。
前期诗歌，现仅存16首。其中《谒谢文靖公墓》《谒徐子与方伯墓》收在邢《志》卷11、赵《志》卷13《陵墓》，《金莲寺题熊尚书坛画像并序》《宿龙华寺》《首夏过东岳行宫题壁》收在邢《志》卷13、赵《志》卷15《寺观》，《崇雅堂看玉兰花》收在邢《志》卷12、赵《志》卷14《古迹》，《壬戌正月同柴竹坡学博陈尉华赞府董红珊巡检游小溪口看梅花》收在邢《志》卷2《城池》、赵《卷》卷2《坊卷》，《丁巳秋日游钦氏山庄因登碧岩二首》《题顾渚春游图同游者钱竹汀宫詹何梦华上舍瞿木夫杨素存两秀才》收在邢《志》卷8、赵《志》卷10《山》，《张叔未解元余戊午同考所荐士也己巳秋初奉访于新篁里留饮清仪阁下出所藏金石等物共阅雅谈竟日归而赋此以赠》收在张廷济《清仪阁杂咏》中。
《金莲寺题熊尚书坛石画像并序》是一首借古咏怀的五言古诗。金莲寺，在长兴县北一里之金莲山，有塔高七层，匾额系明代著名书法家董其昌所题，是长兴境内名刹之一。熊明遇，号坛石，明万历二十九年（1601年）进士，三十年出知长兴达二十余年，在金莲山塔右建塔院和箬溪书院，勤政爱民，功绩卓著，邑人以为“熊有甘棠之爱，因绘其像于塔院，寺僧并取其茶诗墨迹珍藏之”。邢澍《序》曰：“余下车之日，心焉慕之。闻金莲塔院有画像，造僧室往观，仪容温肃，俨然生敬。”邢澍大概在出仕长兴的第二年春天，到金莲寺游访，他观看了寺中熊明遇的画像，并拜读了其赠送僧人的咏茶诗。诗卷破损不堪，邢澍感慨万千，将其重新装帧，题诗于前，又命弟子长兴人氏吴钟华题诗于后，连“同画像装池付僧”，藏在塔院。据赵《志》卷14《古迹》记载，后代的县令将熊明遇的画像诗卷同邢澍的画像，一并藏在金莲山邢澍所建的同善堂。咸丰十年（1860年），“粤匪至，俱毁于火”。“粤匪”，指洪秀全领导的太平天国民变部队。
邢澍怀着敬慕的心情赞扬了熊明遇作为地方长官浚疏河津，修缮桥渡，革除弊政，严惩盗寇，为民谋福的业绩和他“治功无伐善”、“清操秉懿德”的高尚操行，以此歌颂他心目中的太平盛世，同时也表达了自己勤于吏事、惩罚严肃，造福一方的政治理想。我们从邢澍后来的政治业绩可以看到，他在施政方面是以熊氏作为楷模来治理长兴实现自己的政治抱负的。
《丁巳秋日游钦氏山庄因登碧岩》是两首写景抒怀的七言律诗。邢澍知宰长兴的第二年即嘉庆二年（1797年）秋，政暇之余，他和友人游览了白雀山钦氏山庄后，接着游览了卞山的仙岩，作了此诗。白雀山，一名法华山，在今湖州市西北27公里处。卞山，又作弁山，位于长兴县东南，与白雀山遥遥相望，景色宜人。卞山有三岩：秀岩、云岩、碧岩，惟碧岩风景最胜，上有宋僧如茔所建的名刹碧岩精舍。邢《志》云：“宋崇初，华亭僧如茔至此，夜到碧岩，扃有白衣人语之曰：“岩上平衍，可庐以居。”如茔遂修精舍念佛参禅。诗中邢澍以商山四皓喻指不愿出仕、远离尘世、清高自洁的如茔和当时的僧人。诗人置身碧岩，俯视太湖，洪波万顷，浩渺无际，精神为之飒爽，心境因此而开阔。
苏轼曾于宋神宗元丰（1079年）二年三月出宰湖州，游览碧岩，并书“清空世界”，勒石为记。邢澍剔苔识碑，有感而发，写下了这两首七律，描绘了他们一行自白雀山至碧岩，一路松影，桂花飘香的美丽景色。山寺的夜晚万叶秋声，弥漫着萧瑟的秋意，而鱼呗梵声、彤红的佛火又给寂静的山寺带来了无穷的生气和惬意。如此闲适的良辰美景，不能不感动诗人发出“我亦有山归来得”的感慨。次日，作者一行在夕阳西下时，举酒祝杯，指点太湖孤帆远影，眺望对岸的姑苏台，空间的广阔与时间的亘远，以及历史的变幻、人生的沧桑，浮现在诗人的心际，他感到宇宙是如此的伟大，个体生命又是如此之渺小。但诗人并未因此而伤感，相反心中充满欢愉与喜悦。幽静的山野和空旷的视野，使终日沉浸于衙斋的作者，精神为之一爽，心身无比轻松，心志也由此焕发得超拔高远。“坡仙去后今谁继？眼底清空世界开”，这是发自诗人心灵深处的歌唱。邢澍一生对苏轼情有独钟，平素酷爱苏轼。他在《南旋诗草》中说：“余舟中携东坡、遗山两公诗集，朝夕览读。”苏轼的高旷清雄，以议论入诗，以才学入诗的风格，恰好契合了乾嘉时期考据学派的诗歌主张，邢澍的诗具有这一时期明显的学问诗的特色。他对苏轼的赞美，展示了自己有意追求东坡人生哲学的入世态度。
《壬戌正月小溪口看梅花》作于嘉庆七年（1802年）正月。整首诗洋溢着轻松欢快的气息。邢澍和县府的官吏迎着梅花的清香开怀畅饮，在船中醉得东倒西歪，暂时忘却了平日官场的斯文和尊卑，每个人都心情舒畅，憨态可掬。揭示了封建官吏离开官场，纵情大自然时心灵世界最为纯良的品质和光明的人性。林语堂先生在《吾国与吾民》中曾说：“我想中国人在玩耍寻乐的时候，比之干正经事的时候远为可爱。”邢澍一行正是如此。这首诗不仅蕴含着人性的美，而且反映了邢澍追求富足乐道祥和的太平盛世的政治理想。
《谒谢文靖公墓》是一首怀古咏怀诗。谢文靖公指晋太傅谢安。相传浙江长兴县三鸦冈有其衣冠冢。嘉庆三年（1798年）春，邢澍与友人进行了实地考察，谢安陵冢高危岿然，“去冢半里，有丛祠，颇卑陋。问守者，知村民尚祭享不绝”。邢澍翻检《南史·叔陵传》、《吴兴杂录》和颜真卿《石柱记》、北宋湖州知府胡宿《乞为太傅谢安置守冢禁樵采表》等文献，撰成《谢文靖公墓考》，以真实可靠的资料结合实地勘察，考订三鸦冈实属谢安墓茔，而非衣冠冢。见于丛祠破败摧零，邢澍捐资重修祠庙，并上书浙江布政使谢启昆，请奏礼典，春秋致祭。邢澍的考辨文字和兴修祠庙的义举，一时轰动江浙学界，阮元、钱大昕、张廷济、陈鳣、吴兰庭、施希闰等朴学大师纷纷题诗赋赠，赞扬邢澍考据之功。这首诗通过对谢安祠墓的感叹，对谢启昆的褒扬，展示了作者敬仰先贤，珍爱古迹文物，教化民风的文学思想。
《崇雅堂看玉兰花》，是嘉庆初年二月邢澍参观明代尚书顾应祥崇雅堂后所作。赵《志》卷14《古迹》云：“崇雅堂在长安门内，明刑部尚书顾应祥宅，有手植桂一株，大合围，茂密荫一庭，花时香闻数里。又有玉兰一株。”顾应祥，字惟贤，号箬溪，长兴县人，明成化十九年（1483年）生，嘉靖四十四年（1565年）卒。弘治十八年（1505年）进士，官至南京刑部尚书。后来顾氏裔孙衰落，崇雅堂也售给了他人。邢澍似乎是来赏花游园，但实际是通过游园来凭吊乡贤顾应祥。顾先生亲手栽植的桂树依然“枝干犹连卷，天香发金粟”，朵朵繁英，“片片如琼玉”，令人赏心悦目。只可惜“人代易废兴”，物是人非，沧海桑田的无常变幻和人生的短暂所产生的悲凉之感袭上作者心头，欢悦之情一扫而尽。面对眼前之景，作者再也不愿追忆过去，只好无奈何地吟咏：“不必问谁家，但逢花与竹”，以此来解脱人生的虚幻、功名利禄的短暂所带来的伤感。
《宿龙华寺》系五言诗。龙华寺，在长兴县东南弁山之阴，崇祯初年明雪和尚建，康熙四十六年（1707年）赐龙华寺额。据《洪北江先生年谱》嘉庆九年（1804年），“同年邢大令澍邀游长兴龙华寺”。又诗云“当署行田劳”，疑此诗当作于嘉庆九年夏暑中旬。诗中间12句，句句对仗，描写了弁山的秀丽景色和山寺清静闲逸的生活。暮岚、青山、修竹、瀑泉、风声、檐铃、月色、残碑等意象无不蕴含着清静悠闲的意韵。
《首夏过东岳行宫》系五言诗，计26句。东岳行宫，位于长兴县西一里的五峰山麓，宋绍兴十年（1140年）创建，元皇庆元年（1312年）知州吕澍、同知马重修，州路总管孟淳撰记、集贤学士赵孟頫书碑，明洪武二十七年（1394年）邑人李道坚修葺。行宫后有洗心亭和文宫阁，高敞可望太湖。乾隆二十一年（1756年）邑绅朱履忠重修行宫，并在后山建爽心亭。邢澍在“蚕月公事稀，讼庭树影绿”的时节“抚景发高兴，乘闲肆游属”，来到东岳行宫游览访古。在荒草的掩埋中，他手剔苔藓，搜寻孟淳、赵孟頫等人的石刻，“碑碣草埋深，苔藓手剔读”。在他精心勾画下，石刻宛然若新，“标致美如女”，于是他“扶颠重立阶，饬工兼覆屋”，进行保护。邢澍是金石学家，他一生重视文化建设，在长兴无论走到哪里，他都要到存留古迹文物的地方去探访发掘，加以保护，并竭力考订宣传。他这样做的目的，一方面是为学术研究，另一方面是为了创造一种繁盛的文化气氛，促使一县风教的淳化。“文教振金石，熏风蔚林木”，这恰恰是邢澍政治理想的写照。
《谒徐子与方伯墓》系五言诗。追忆徐中行“雅音追正始”、“光辉映百祀”的文学成就，赞颂了徐中行“护忠侮权相”的刚直品格和他“服仅粗布衣，食惟脱粟米。周给人尽欢，官阁贫如洗”的俭朴生活作风和政治作风。当作者来到墟墓，看到松柏被毁时，“感拜为垂涕”，他决意刊刻墓碑，封表使其巍然，以促使地方“风教还淳美”的社会风尚。其用心之良苦，斑斑可鉴。徐中行，浙江长兴人，嘉靖间进士，官江西布政使，系明代诗坛“后七子”之一，去世后，埋葬在长兴河泊所前。
《首夏过东岳行宫》《崇雅堂看玉花》《谒徐子与方伯墓》三首诗的具体创作时间失考，但从它们被邢《志》收录的年代来推断，可以肯定当作于嘉庆二年（1797年）至九年（1804年）间。
《张叔未解元余戊午同考所荐士也己巳秋初奉访于新篁里留饮清仪阁下出所藏金石等物共阅雅谈竟日归而赋此以赠》系七绝，共计6首。张廷济是嘉庆三年乡试时邢澍所荐举人，此后两人情谊深重，时有往来。邢澍调离长兴后，寓家秀水，和张廷济同居一城。这组诗作于嘉庆十四年初秋。当时廷济数举春闱不第，遂绝意进取，邢澍自己也官场失意，因病赋闲在家。这组诗的思想情调和前期其他作品有所不同，随遇而安的情趣，对世事的无可奈何漫溢全诗，自信昂扬的意气荡然无存。邢澍对功名利禄的通达，对人生沉浮的参悟，以及对田园生活的无限向往眷恋之情，在此表现得淋漓尽致。这组诗标志着邢澍诗歌风格由前期重于言志向后期重于言情的嬗变，由前期的严肃欢快向后期的伤感旷达的过渡。
综观邢澍前期作品，其艺术特色集中表现在：
其一：邢澍由一介贫民考录为朝廷命官，可谓朝为种田郎，暮登天子堂。在他思想中，乾嘉时期是国泰民安的清明盛世，他把自己对朝廷的感激和深情升华为发自肺腑的歌唱，于是前期作品大多表现的是一种安道、乐业、富足、闲静的生活情趣，这是他理想中的人间盛世。因此作品的基调高昂欢快，侧重于表达个人思想抱负。如记游访古、借古喻今的作品都莫不如此。
其二：乾嘉时期国势由盛极而衰微，表面的稳定繁荣掩盖着尖锐的社会矛盾，邢澍作为一名清醒的地方官员，他对政治的腐化自然会有较为深刻的认识，但他不可能也不敢对此有所讽喻批判，文字狱的利剑时时高悬在他的头顶。他企图通过诗歌来教化社会，教化民风，为挽救日渐式微的国力尽一份力量。因此，前期诗歌具有浓郁的教化色彩，体现了儒家“成孝敬，后人伦，美教化，移风俗”的诗教原则和他自己的文学主张。如对前贤谢晋、熊明遇、徐中行、顾应祥等人的缅怀歌颂，都充分反映了他从儒家传统的诗论出发，重视诗歌教化作用的创作原则。
其三：邢澍同时代的诗人翁方纲大力倡导汉学和理学的积极融合，翁氏汲取理学说理严密、严谨求实的治学风格，提出了以考据入诗，以学问入诗的肌理说。邢澍的诗深受影响，如诗中的注释、考证、议论等都体现了这一诗论思想。
