Die Pferdeschwemme wurde im Jahr 1696 unter Erzbischof Johann von Thun errichtet. Sie gehörte ursprünglich zu einem anderen Gebäude, dem erzbischöflichen Hofmarstall, der schon 1606/07 errichtet wurde. Dieser erzbischöfliche Marstall benötigte eine Schwemme für die Pferde, die im Jahr 1696 errichtet wurde. Die Rückwand der Pferdeschwemme diente dazu, das Magazin am Mönchsberg zu verdecken und um dem Platz vor dem Neutor einen schönen Abschluss zu geben. Dieser Platz – der heutige Herbert-von-Karajan-Platz – hieß früher Sigmundsplatz.
Die lateinische Inschrift befindet sich auf dem Sockel der Rossbändiger-Statue.
Sehr eindrucksvoll nimmt sich die Aufzählung der Titel des Erzbischofs im lateinischen Text aus: Erzbischof, Fürst, Legatus natus, Primas Germaniae etc. Diese Aneinanderreihung der wichtigsten Titel, deren lange Reihe sogar noch fortgesetzt werden könnte („etc. etc.“), spiegelt den barocken Repräsentationswillen wider. Die Position des Legatus Natus und des Primas Germaniae sind eng miteinander verbunden: Der Salzburger Erzbischof ist seit 1648 der Primas Germaniae für Deutschland und Österreich. Dieser Titel bezeichnet den Bischof des Hauptsitzes in einem Land und war ursprünglich mit besonderen Rechten verbunden. Der Legatus Natus ist der ständige Legat des Heiligen Apostolischen Stuhl; diese Funktion hat der Primas Germaniae seit dem 12. Jahrhundert inne.