Ce quai porte le nom d’un important couvent créé au XIVè siècle, il est le plus ancien de Paris. Les moines Augustins se vouaient surtout à la prédication. Ils étaient surtout d’origine italienne, ils étaient qualifiés de grands pour les distinguer des petits Augustins, installés à l’emplacement de l’Ecole de Beaux Arts.

Le quai débute au pont Saint Michel, pour aboutir au Pont Neuf, et il est le lieu de prédilection des amateurs de bouquinistes.
Les maisons qui bordent le quai datent des 16è, 17è, 18è et 19è siècles.
Un marché à la volaille, au beurre, aux œufs,  le « marché de la Vallée », a occupé l’emplacement du n° 33 de le fin du 17è au 19ème siècle.
Les salons du restaurant Lapérouse au n° 51 sont inscrits à l'inventaire des monuments historiques. De nombreux écrivains l'ont fréquenté : Dumas, Hugo, Zola, Flaubert et Maupassant.

23 juillet, Paris s'éteint
Et sur le Quai des Grands Augustins
Nous tournons les pages à l'improviste
Devant l'étalage d'un bouquiniste
Je ne vous connais pas, je vous frôle,
Là sur le quai, épaule contre épaule
Sur les quatrièmes de couverture
Nous cherchons la même aventure
Sur les quatrièmes de couverture...

Vincent Delerm "quatrième de couverture"