遂城镇始建于春秋战国时期，是徐水县历史上最早的文明古镇，古称武遂遂州，英雄城。为明代前徐水县的兵防要地和政治中心。战国时期，燕在遂城建一城池，称武遂，为当时燕都外卫城池。隋开皇十八年(公元596)，为遂城县县府所在地。北宋时为宋、辽界城。金天会七年(公元1129)，在遂城立州治名遂州，明洪武初降州为县。明洪武八年(公元1375)，遂城县并入安肃县。

　　遂城镇文化积淀沉厚，文物古迹众多。辖区内有大型汉墓一座，在大马各庄村南500米处的高土之上，出土文物较多。有宋代古城遗址一处，位于遂城村，现残存断续城墙2386米，高1.5-10米，宽2-2.5米。有刘伶墓一座，坐北朝南，为乾隆二十二年(公元1759)安肃县令诚昌言重修，并建酒德亭，于1952年9月由河北省人民政府列为省级文物保护单位。有烈士陵园一处，在大次良村南20米外，园内安葬着1947年漕河阻击战中牺牲的46位革命烈士。

　　遂城镇人文景观鳞次栉比，徐水县“旧八景”仅在遂城就有四景：南宏宫，位于遂城村以南，俗称北古子庙，相传建于唐代；北极层观，在遂城村北，俗称北古子大调，为北宋名将杨延照所建，四望荒，位于遂城村北，又称“六郎亭”，宋朝名将杨延昭与辽作战，在此瞭望；刘伶孤冢，位于张华村南。

　　古遂城为一座土城。明朝后隶属安肃县为镇，时街道狭窄，房屋陈旧，公共建筑仅有庙宇．祠堂。民国期间建有初级小学．邮寄代办所。新中国成立后，遂城镇基础设施逐步发展，1958年建邮电支局，其街道列入城镇规划之内。1971年333省道沥清铺设，于境内通过，是遂城第一段硬面公路，1986年投资500万元兴建了遂城市场，之后陆继建成储蓄所办公楼，信用社办公楼，营业所办公楼，邮电分局营业室，中心医院，敬老院，光荣院，供销社营业厅，税务所办公楼，工商所办公楼等。特别是1999年被河北省政府确定为小城镇建设重点镇后，遂城镇党委政府借333省道改建和保易公路建设的有利契机，将公路改建与小城镇建设有机结合，统筹兼顾，分三步实施小城镇规划。第一步，投入1000万元，将规划区内公路加宽至40米，两侧修建下水管道，目前已完工通车；第二步，制定公路两侧土地开发规划，对公路两侧土地统一规划，统一设计，已制订实施方案，前有38户投资1140万元兴建商住楼3.8万平方米；第三步，建设50亩高标准集贸市场和休闲广场。