Le nom de « Rue des prêtres » n'est pas lié au hasard. En effet, ici-même, vous pouvez voir l'ancienne maison de Monseigneur Vibert qui était l'évêque de Saint-Jean-de-Maurienne en 1840. Par la suite, cette ancienne cure fut la demeure des prêtres de Yenne jusqu'en 1868, date à laquelle le presbytère actuel a été créé. L'ancienne cure fut également occupée par Pierre Boisson (dentiste né à Yenne et ayant fait fortune au Mexique) avant sa mort, à son retour du Mexique.
Par temps clair, dans cette rue, vous pouvez apercevoir au loin surplombant la falaise et le Rhône, un édifice pour le moins imposant : c'est la Chartreuse de Pierre-Châtel.
À l'origine, ce site était un fort de défense et un point de surveillance des passages sur le Rhône. Il figure parmi les lieux de résidence des Comtes de Savoie au treizième et au quatorzième siècle.
Pierre-Châtel a un statut de siège de châtellenie qui impose la résidence permanente d'un châtelain assurant la défense, la gestion des terres, la collecte des revenus, l'entretien du château et l'accueil des comtes.
Vers 1360, Amédée VI, dit le Comte vert, crée l'ordre du collier au château de Pierre-Châtel. Cet ordre de chevalerie est composé de quinze chevaliers. Pierre-Châtel devient ainsi le siège d'un des ordres de chevalerie les plus anciens d'Europe.
En 1383, Amédée VI meurt de la peste et par testament, il donne son château et ses dépendances à l'ordre de Saint-Bruno. Sur son testament, il précise vouloir créer un monastère abritant quinze moines chargés de prier pour le salut de son âme et de celles des chevaliers de l'ordre.
En 1393, c'est la pose de la première pierre de la Chapelle en présence d'Amédée VII, de l'évêque de Belley, de toute la cour de Savoie et d'environ mille trois cent invités venus avec pas moins de sept cent chevaux. Le monastère est achevé dix ans plus tard, en 1394, par le Duc Amédée huit. En 1391, le Prieuré de Yenne est rattaché à la Chartreuse. La communauté de moines Chartreux de Pierre-Châtel est la troisième à intervenir dans l'histoire de Yenne et reste la plus importante.
Aujourd'hui, la Chartreuse de Pierre-Châtel est une propriété privée. Cependant, vous pouvez l'admirer sur le parcours des Balcons de Yenne depuis le Mont Chevru.
Vous pouvez également admirer sur votre droite une tour ronde : c'est la Tour du Café de la Paix qui se trouvait là avant l'actuelle Maison de la Presse. Cette Tour a été construite dans les années 1930.