Si se tenía la intención de que las habitaciones de Daraxa y el conjunto del Patio de los Leones fueran la nueva residencia personal de Carlos V, se requeriría un nuevo palacio para atender las necesidades funcionales y representativas de la corte.
La idea de construir el palacio de Carlos V surgió en 1526, con ocasión de la boda del emperador en Sevilla y su posterior traslado a Granada durante el verano de ese año. El arquitecto encargado del proyecto fue Pedro Machuca y la construcción comenzó en 1533, después de algunos años de desacuerdo en cuanto a su diseño y ubicación. La financiación para la obra provino de impuestos impuestos a los moriscos, a cambio de preservar ciertas tradiciones. También se utilizaron recursos de la Casa de Contratación de Sevilla y de la industria azucarera de Granada.
A partir de 1572, debido a la rebelión morisca en las Alpujarras, el avance de las obras se ralentizó y finalmente se detuvo en 1637, cuando el edificio aún no estaba completamente cubierto.
En 1923, el arquitecto y restaurador Leopoldo Torres Balbás inició un programa de restauración del palacio, que se completó en 1958 con la cobertura del edificio.
El palacio tiene una planta cuadrada con un patio interior circular y fue diseñado por Pedro Machuca. Su inicio en el año 1533 es notablemente temprano para sus características, las cuales se enmarcan en el estilo manierista: columnas dóricas en el primer piso, jónicas en el segundo, y un friso decorado con cabezas de toro (bucráneos) en la tradición grecorromana. En ciertos aspectos, repite o adelanta soluciones arquitectónicas propias del manierismo italiano, lo cual se explica por la estancia de Machuca en ese país y su habilidad para desarrollar creativamente ciertos elementos del incipiente estilo manierista.
La fachada del palacio es totalmente renacentista. El primer nivel presenta un estilo toscano con almohadillado, mientras que el segundo exhibe elementos decorativos propios del barroco. Encima de la puerta principal, se encuentran dos estatuas aladas de mujeres reclinadas en el frontón. En la parte superior, tres medallones enmarcados en mármol verde contrastan con la piedra. En los laterales se representan escenas de la mitología griega, específicamente dos de los doce trabajos de Hércules. Los anillos de hierro en la parte inferior son meramente ornamentales, siguiendo la tendencia de moda en Florencia y Siena en ese momento.