Selon la tradition chrétienne, la Vierge Marie est apparue à Saragosse le 2 janvier 1940 sur une colonne connue sous le nom de Pilar. À la suite de cette croyance, la Vierge Marie aurait demandé la construction d'une chapelle, œuvre que l'apôtre Saint-Jacques aurait réalisée avec les premiers convertis de la ville.

Il n'existe aucune preuve archéologique ou documentaire de cette première chapelle, mais il y a des preuves de l'existence, au IXe siècle, d'une église dédiée à Sainte Marie sur le même site, autour de laquelle s'est organisée une communauté mozarabe.

Après la conquête de Saragosse par Alphonse Ier d'Aragon en 1118, l'église était en ruine et l'évêque Pedro de Librana dut la réaménager pour le culte. Par la suite, la construction d'une église romane commença, qui ne fut achevée qu'au XIIIe siècle. C'est de cette époque que date l'ancienne chapelle du Pilar, attestée en 1240 comme lieu de culte indépendant. En 1297, une bulle papale confirme la vénération du Pilar et la consolidation du culte de Santa María del Pilar.

À la fin du XIIIe siècle et jusqu'en 1515, un nouveau temple a été construit dans le style gothique-mudéjar, qui comprenait un chœur sculpté et le retable principal commandé à Damián Forment. L'état de ce temple est connu grâce à des croquis, des vues de la ville et des documents notariaux de l'époque. L'ancienne chapelle a été conservée jusqu'aux réformes du XVIIIe siècle.

En 1670, à l'instigation de Juan José de Austria, la construction de l'actuel temple baroque commença, dirigée initialement par des maîtres de Saragosse et poursuivie par l'architecte royal Francisco de Herrera el Mozo. En 1730, l'extension est achevée et atteint ses dimensions actuelles. Entre 1754 et 1765, Ventura Rodríguez conçoit la nouvelle chapelle de la Vierge et apporte des modifications à la décoration intérieure, lui donnant un style plus sobre et plus proche du goût néoclassique.

La silhouette caractéristique des coupoles et des tours a été achevée entre 1796 et 1872, bien que les tours d'angle n'aient été terminées qu'en 1961, donnant à l'église son aspect définitif.