Une première église est mentionnée en 1181. La charte entre l'abbaye de Bucilly et Nicolas de Rumigny évoque une chapelle dédiée à Sainte Marie, construite par Nicolas de Rumigny avant 1175. Elle est détruite vers 1230 pour faire place à une "église convenable ". De cet édifice primitif ne semble avoir subsisté que le choeur avec ses baies en plein cintre datant vraisemblablement de la 2e moitié du 13e siècle. La nef actuelle date du 17e siècle, la date de 1688 (connue par source, seuls les trois premiers chiffres sont aujourd'hui lisibles) sur la partie supérieure de la façade occidentale correspond sans doute à la date terminale de la campagne de reconstruction de l'église. En 1682-83 il est fait mention de l'entretien par les religieux de Bucilly, décimateur du choeur de l'église. Les élévations nord et sud de la nef ainsi que la façade occidentale comportent un décor de damiers en briques vernissées. Deux portes, percées dans la nef, ont été bouchées postérieurement, probablement au cours du 19e siècle. Le 5 juin 1742 les litres et blasons de l'église sont décrits comme comptant " 81 toises de lettres et 28 blasons le tout bien conditionné suivant l'art et quoique les lettres ne soient faites qu'à une couche elles sont faites de féçon à durer ". En 1745, l'église est mentionnée comme dépendant de la cure de Martigny. Son mauvais état et son manque d'entretien amène l'architecte départemental à y entreprendre des travaux dès 1827 concernant la maçonnerie et le décor intérieur. Une nouvelle campagne de travaux a lieu en 1833 puis en 1840, cette dernière concernant principalement la toiture. En 1874, la sacristie est reconstruite, la nef et le choeur reçoivent leur faux-plafond actuel. De nouvelles baies sont percées dans la nef, et de 1875 à 1878 la construction de 4 contreforts sur la nef, donne lieu à des controverses, le conseil municipal estimant que l'église, " une grange en briques, sans aucune ornementation, avec un petit clocher mesquin ", n'avait nullement besoin de ces contreforts. Le clocher fait l'objet d'une importante restauration en 1912, suite à sa destruction partielle par la foudre.