Le cimetière, autrefois situé de part et d'autre de l'église paroissiale Notre-Dame, était scindé en deux parties nommées cimetière froid au nord et cimetière chaud au sud, à l'emplacement de l'actuelle place de l’Église. Le cimetière a été transféré à son emplacement actuel autour de la chapelle Sainte-Anne en 1788 et régulièrement agrandi vers l'ouest au cours du 19e siècle. Il conserve encore de nos jours de nombreux monuments sépulcraux du 19e siècle et du 20e siècle dont certains ont fait l'objet de notices individualisées. Toute la typologie courante de l'architecture funéraire en Thiérache est présente, par exemple l'utilisation privilégiée de la pierre calcaire dite de Tournai ou pierre bleue comme matériau de construction, la présence de la fonte en décor mais également comme matériau principal de certains monuments (croix, clôture). La typologie architecturale est également celle qui est la plus courante (croix, obélisque, chapelle funéraire). Cependant, certains édicules ou tombes se distinguent par leurs formes architecturales singulières (IA02000343, IA02000346, IA02000347). Outre les marbriers, maître-verriers et fondeurs repérés dans d'autres cimetières (les marbriers hirsonnais Laffineur, le fabricant et fondeur ardennais Alfred Corbeau, les peintres-verriers d'Aulnoye Olivier Durieux et C. Roland), le cimetière se caractérise par un nombre important de tombes ou chapelles funéraires exécutées par des marbriers vervinois comme Bastin. De grandes figures liées à l'histoire et à la vie politique vervinoises sont enterrées autour de la chapelle Sainte-Anne.