Elle porta d'abord le nom de rue du Sépulcre, en raison d'une propriété habitée au commencement du XV^e siècle, par des chanoines du Saint-Sépulcre. 

En 1808, les propriétaires riverains demandèrent le changement du nom de cette rue. L'autorité compétente accueillit cette réclamation, et la dénomination de rue du Sépulcre fut remplacée par celle de rue du Dragon, en référence à un dragon sculpté, que l'on peut voir au-dessus de la porte du n°50, rue de Rennes, et par laquelle on accède à un cour (autrefois Cour du Dragon), dont l'autre issue est au n°7 de la rue du Dragon. Aujourd'hui, on peut voir un autre dragon (en bronze) à l'angle de la rue du Dragon et de la rue de Grenelle.
-

Le dragon de la rue du Dragon, à Paris.  (© Photo : Serge Jodra, 2010).

Une décision ministérielle du 23 frimaire an IX, signée Chaptal, fixa la moindre largeur de cette voie publique à 10 m. La largeur de cette voie publique a ensuite été fixée à 12 m en vertu d'une ordonnance royale du 29 avril 1839.