L'Alhambra a été construit sur la colline de la Sabika, l'une des plus hautes de Grenade. Le choix de cet emplacement visait à la fois à obtenir un avantage défensif stratégique et à représenter un symbole ostentatoire, puisque le point de puissance maximale serait clairement visible depuis le reste de la ville. Le sommet a été délibérément choisi pour être contemplé.

La colline de Sabika était déjà occupée auparavant, au moins depuis l'époque romaine. Les premières traces écrites d'un site militaire dans cette région datent de 666. Il existe des preuves de l'existence d'établissements comme Iliberis (Elvira) à Albaicín et Alcazaba ; Castilla, près de l'actuel village d'Atarfe ; et Garnata, qui était plutôt un quartier d'Iliberis, sur la colline en face de l'Alcazaba. En 756, il y avait déjà une population arabe à l'Albaicin et à l'Alhambra.

L'extension de la colline a permis la construction du complexe, qui mesure environ 740 mètres de long et entre 40 et 180 mètres de large.

Après la mort d'Al-Haken II, le troisième calife omeyyade, en 976, l'histoire politique du califat omeyyade commence à connaître une série de revers. La reconquête chrétienne devient la force prédominante dans la péninsule. Dans ce contexte, la transformation de Gharnata d'une petite ville en une cité d'une certaine importance s'est produite au début du XIe siècle, lorsque la dynastie berbère des Zirides a établi une principauté semi-indépendante. Sous le règne de Badis ben Habus et d'Abd Allah ibn Buluggin (1025-1090), la population de la ville s'est accrue.