Un devis de 1748, rédigé par Révérend, ingénieur du roi, et agréé par Charles-Blaise Méliand, intendant de la généralité de Soissons, en 1748 (Laon, Archives départementales de l'Aisne, Guise EE 6), présente le projet et les plans du quartier de cavalerie, devant être construit sur une place appartenant à la ville.

L'ensemble comprend une écurie de cent vingt chevaux, long bâtiment d'un seul niveau avec comble, flanqué de deux pavillons à deux travées sur deux niveaux, pour loger trente cavaliers (seul le pavillon sud semble avoir été construit). L'entrée, formant un avant-corps central sur la façade, sur l'actuelle rue de l'Abreuvoir, ouvrait sur un vaste passage transversal menant à la cour arrière, où d'autres corps de bâtiments étaient prévus, mais n'ont jamais été construits.

Le projet est assez proche des modèles de casernes de cavalerie mis au point par l'ingénieur Mazin, à la suite de l'ordonnance du 26 septembre 1719 sur la construction de casernes dans chaque ville de garnison qui, s'ils n'ont pas eu de suite, n'ont pas été sans influence sur la castramétation du 18e siècle. Un mémoire de 1770 (même source) présente un projet de manège en plein air pour la caserne de Guise devant être occupée par les deux escadrons d'un régiment de dragons. Il ne sera pas réalisé lui non plus. En 1784, on apprend que la construction (agrandissement ou poursuite du projet d'origine) du bâtiment des casernes, commencée, est abandonnée faute de crédit, et qu'il n'abrite que cent dix chevaux et vingt cavaliers.

Cependant, en 1787 sont publiés trois projets de reconstruction du corps d'écurie du roi, demeurés sans suite : le plus ambitieux prévoit l'aménagement d'une vaste caserne en U, fermée par une grille, avec deux ailes en retour, établie pour la partie extra-muros sur le Prés du Mayor (emplacement de l'actuelle place Lesur). La caserne est utilisée par la cavalerie jusqu'au milieu du 19e siècle, avant d'être utilisée à partir de 1866 comme magasin pour le Service des lits militaires. Le bâtiment est transformé en halle à la fin du 19e ou au début du 20e siècle, et sert aujourd'hui de salle des fêtes.