Si les origines de l’église restent inconnues (était-elle la chapelle de la forteresse médiévale qui se tenait à proximité ?), la présence de fonts baptismaux datés du XIIIe siècle (classés MH : PM60001750) ainsi que la forme des deux grandes arcades séparant le vaisseau central des bas-côtés laissent supposer l’existence d’un tel édifice à cette période. Ce qui peut être affirmé avec certitude c’est qu’une église existe bien à La Hérelle en 1362, date à laquelle elle est citée dans le Pouillé de la province de Reims en tant que paroisse rattachée au doyenné de Montdidier.

L’édifice est reconstruit à partir du XVIe siècle à la suite des Guerres de Cent Ans comme de nombreuses autres églises de la région. Dans son Précis Statistique, Louis Graves le décrit en 1843 : "une nef moderne, un clocher couvert d’ardoises, et un chœur élevé, construit au seizième siècle, polygone, en pierre d’appareil et en briques, à longues fenêtres ogives géminées, tréflées". La voûte lambrissée du chœur est refaite en 1791.

Il semble que la façade occidentale soit restaurée au début du XIXe siècle car une plaque au-dessus de la statuette de saint Nicolas installée sur la porte d’entrée indique "1819" associé aux initiales "A. M.", probablement celles de l’entrepreneur établi en "SEINE ET MARNE".

Les documents de la série O des Archives départementales de l’Oise mentionnent les travaux conduits au cours du XIXe siècle. En 1822, l’architecte et entrepreneur en bâtiment Bellanger dresse un devis des travaux qui doivent être réalisés, sans que ceux-ci soient mis à exécution. En 1835, l’architecte Désiré Dercheu établi un devis de réfection des couvertures en ardoise qui sont restaurées l’année suivante. D’autres travaux sont menés sur les couvertures du clocher en 1888.

Des cartes postales éditées dans le premier quart du XXe siècle figurent l’église et son chœur du XVIe siècle : plus haut que la nef, il était percé de larges baies élancées en arc brisé et au remplage de style gothique flamboyant (soufflets et mouchettes).

Malheureusement l’édifice, et en particulier le chœur, se dégrade du fait de l’absence de travaux : le conseil municipal et la fabrique ne parviennent pas à réunir l’argent nécessaire à la réfection des maçonneries. En 1936, l’architecte Albert Lemaître fait un état des lieux et juge nécessaire de faire des travaux d’urgence au risque de voir le chœur s’effondrer. Le maire met alors l’édifice en état de péril et le ferme. Le conseil municipal tente de recueillir les fonds nécessaires à la restauration du chœur mais en 1938, Albert Lemaître annonce une augmentation de 40% des frais des travaux en raison de la hausse du coût des matériaux et de la main d’œuvre. La mairie n’a pas les fonds nécessaires et le projet de travaux est mis à l’arrêt.

En 1940, le chœur s’effondre. Il est reconstruit en brique au début des années 1960 et achevé en 1963. C’est certainement lors de cette campagne que l’intégralité du carrelage est remplacé. Des vestiges des anciens murs et contreforts laissent percevoir l’emprise du chœur détruit.