Un don des Bourbon
C’est sur la route menant de Cluny à Souvigny et à La Charité-sur- Loire qu’Enséric, sire de Bourbon et descendant du fondateur du prieuré de Souvigny, fonde, en 997, un prieuré qu’il dédicace aux saints Nazaire et Celse. Dans la tradition familiale, il le donne à Cluny vers 1030, avec l’ensemble de ses possessions, dont les eaux de Bourbon. La contrepartie étant que cinq moines occupent le prieuré – dont l’église est paroissiale – et qu’une aumône y soit faite trois fois par semaine. Les descendants d’Enséric poursuivent cette politique de dons et de fondations clunisiennes dans la région au cours du XIe s., quand ils ne prennent pas eux-mêmes les habits clunisiens. Une inscription gravée sur un enfeu gothique de 1288 conservé dans l’église nous apprend que le prieur n’est pas présent en permanence et que le curé fait office de sous-prieur. L’histoire du prieuré de Bourbon est exemplaire des relations de voisinage difficiles entre monastères : jusqu’au XVIIe s. en effet, son prieur s’oppose régulièrement à l’abbaye cistercienne de Sept-Fons, dont les vignes touchent le prieuré Saint-Nazaire !... 
Un bel exemple de premier roman
Le quartier Saint-Nazaire, dit « bourg Saint-Nazaire », est occupé depuis l’époque gallo-romaine. On retrouve d’ailleurs dans l’église Saint-Nazaire une stèle funéraire païenne en marbre de Gilly-sur-Loire, dédiée à Diogène, peintre et fils d’Albin, qui est encastrée dans le mur du chœur. Bien que l’église (de la fin du XIe s.) n’ait pas encore livré tous ses secrets, elle demeure un bel édifice du roman primitif d’un grand intérêt architectural. Elle est sobre et ses proportions sont harmonieuses. Sa nef à cinq travées ouvre sur les bas-côtés. Les arcs en plein cintre des arcades retombent sur des piliers à base rectangulaire d’une architecture simplifiée à l’extrême. La croisée du transept, de plan carré, est délimitée par quatre solides piliers cruciformes, coiffés de chapiteaux recevant les retombées des arcs à double rouleau qui supportent le beffroi. Sur les bras du transept s’ouvrent quatre absidioles. Le chœur voûté en berceau se termine sur l’abside axiale semi-circulaire et voûtée en cul de four. 