Les évêques de Paris possédaient dans ces parages une ferme ou villa (villeta episcopi), depuis le XIII^e siècle. Il se forma autour de cette ferme un bourg que l'on appela la Ville-l'Évêque, qui fut enclavé dans Paris sous Louis XV : la rue de la Ville-l'Évêque était l'artère principale de ce bourg. L'ancienne église de la Madeleine, église de la Ville-l'Evêque était située au coin Nord-Est de la rue (emplacement du 11 actuel du boulevard Malesherbes). Cette église qui datait du XIII^e siècle, fut reconstruite en 1659 et démolie en 1764. 

A l'extrémité Est de la rue et s'étendant entre les rues de Surène et de l'Arcade était le couvent des Bénédictines fondé en 1613 par Catherine d'Orléans-Longueville, et sa soeur Marguerite d'Estouteville; il fut supprimé en 1790 et démoli. Fabre d'Églantine habita la rue à l'hôtel du duc d'Aumont, au coin de la rue d'Astorg. Le conventionnel Amar logeait au 54 (ancien). Le maréchal marquis de Grouchy était depuis longtemps au 26 (ancien) en 1840. Lamartine habita le 31 (ancien) en 1854, puis en 1869 le 9 (ancien) de la rue Cambacérès. Mme de La Briche, belle-mère du comte Molé, habitait la rue en 1820, avant d'aller rue des Saussaies. En 1842, Mme de Souza, mère de Charles de Flahault, vint habiter, après avoir quitté son hôtel de la rue Verte, le 22 de la rue de la Ville-l'Évêque. En 1829 elle quitta cet hôtel qui fut repris par son beau-fils le comte de Villa Real, fils de M. de Souza, et elle alla 7, rue Saint-Florentin. Odilon Barrot mourut au 5 (ancien) en 1873, et Guizot au 8 (ancien) en 1875. La rue posséda également un hôtel de Boufflers, un hôtel de Coulanges, et compta parmi ses habitants le sculpteur Houdon et Mme de Balbi.

N° 5 et 7. Emplacement de l'hôtel d'Espagnac qui fut légation de Bavière en 1855 et hôtel Mercy-Argenteau en 1860. Cet hôtel, primitivement hôtel de Choiseul-Meuse, avait été construit sur l'emplacement du marché d'Aguesseau qui avait été ouvert en 1723 au Nord de la rue d'Aguesseau et qui resta là jusqu'en 1745, époque où il fut transféré cité Berryer.

N° 16. L'actuel immeuble d'acier et de verre du groupe Suez se trouve à l'emplacement de l'ancien hôtel du maréchal Suchet. Le banquier Bartholdi. En 1812 cet hôtel attenait par derrière à l'hôtel Talleyrand qui s'ouvrait rue d'Anjou et qui a été détruit par le boulevard Malesherbes. Au fond de la cour du 16, étaient les Soeurs de la Mère de Dieu. En 1907, il accueillit l'Institut normal libre de la Madeleine.