Une première église est construite au VIIe siècle sur le Mont des Cornets. Les historiens qui analysent les chroniques des moines et abbés ne s'accordent pas sur son constructeur ; il s'agirait de Saint-Amand peu de temps après son arrivée en Pévèle ou de l'abbé André, le troisième abbé successeur de saint-Amand. Une hypothèse défendue par l'historien allemand Bethmann propose la construction par Amand et une rénovation par André. Cette église se trouvait à la frontière entre la couronne de France et le Saint-Empire Germanique.

Une deuxième église fut construite au XIe siècle. Elle subsista jusqu'en 1778 malgré des dommages subis lors des guerres de Religion.

En 1783, le prévôt envoi une copie de la requête qu'il a faite au roi pour la reconstruction de l'église à l'intendant.

Il y évoque le mauvais étant de l'église ne permettant plus de tenir l'office et l'autorisation accordée par les abbés de célébrer l'office dans l'église abbatiale depuis 5 ans pour la communauté de communiants, composée d'environ 7 à 8000 personnes.

L'église est reconstruite une troisième fois vers 1785 sur le terrain acquis pour 18000 livres contenant une maison, le terrain de l'ancienne église et de l'ancien cimetière. le chantier est mené par l'architecte Leclercq puis le célèbre architecte lillois Lesaffre. Après la Révolution, elle accueille une partie des oeuvres de l'église abbatiale détruite.

Elle est restaurée à plusieurs reprises au XIXe et au XXe siècle.

Entre 1925 et 1933 la flèche est reconstruite et l'édifice restauré par l'architecte valenciennois Léon Raux, qui a également en charge la restauration de plusieurs édifices communaux après les dommages subis par la guerre. L'église est endommagée lors du bombardement qui a suivi l'évacuation de la ville des troupes.

les archives mentionnent que pour la restauration des vitraux, toutes les entreprises de vitraux actives à cette époque sont contactées, seuls les maitres-verriers Charles Champigneulle et Francis Chigot soumettent des devis. L'offre avantageuse de Francis Chigot est adoptée. Celui-ci propose 14 baies pour la grande nef, 4 vitraux et demi "riches personnages", des personnages pour les vitraux du choeur où deux panneaux entiers ont disparu. Des grisailles riches de médaillons et personnages sont proposés pour les bas-côtés. L'ensemble s'élève à un coût de 102 000 francs.

Lucien Jonas réalise le chemin de croix en 1942.

Les vitraux sont remplacés en 2013 par un cycle de vitraux abstraits réalisé entre 2009 et 2013 par l'atelier Pierre Brouard, maître-verrier à Ronchin (59).