Voilà ce qu'en dit Daniel Thiery :
L’église de la bienheureuse Marie près de Niozelles
" ... C’est sous cette appellation qu’est citée cette église en 1274 et au XIVe siècle. Elle n’apparaît plus par la suite sinon sous la forme d’une église ruinée signalée par Cassini et par le nom d’un quartier par les cartes modernes et dite Eglise Vieille. Le site est à 700 mètres au SO du village et pourrait constituer l’église paroissale d’origine lors de la création du castrum.
En effet, à proximité, à l’est, vestiges situés près de la ferme appelée Vieille Eglise ; au sommet d’une butte, s’élève un tronçon de tour ronde, au joli appareil régulier collé sur un blocage de moellons : sa patine est grisâtre et elle peut dater du XIII°. Des murs de soutènement remontant au Moyen Age, en appareil régulier, sont plaqués çà et là, sur les flancs de la butte. Elle forme, à sa partie supérieure, un petit plateau inégal, bossué de pierres.
Il dut y avoir là une agglomération, peut-être l’ancien Niozelles. Cette tour consitue un spécimen intéressant d’architecture militaire du Moyen Age et mériterait d’être conservée (Collier, p. 312). La CAG reconnaît sur cette butte un oppidum, des vestiges de remparts, d’une tour, ainsi que des céramiques du haut Moyen Age...".