Tvrđava Alcazaba jedan je od najstarijih dijelova Alhambre, poput grimiznih tornjeva (Torres-Bermechas). Vjeruje se da je prije nego što je izgrađen i prije nego što su muslimani stigli u Granadu, na istom području već je bilo nekoliko građevina. Prvi povijesni spomen postojanja Alcazaba datira iz IX stoljeća, a vjeruje se da je sagradio Savvar Ben Hamdun tijekom bitaka između muslimana i muvalladina [kršćana koji su prihvatili islam i živjeli među muslimanima].
Sadašnji kompleks sagradio je Muhammed I, koji je izgradio kmetove oko prethodnog dvorca, obrambene strukture i tri nove kule: uništenu kulu (Torre Kebrada), tvrđavu (Torre del Homenahe) i stražarsku kulu (Torre de la vela). Kao rezultat toga, Alcazaba je postao prava utvrda u kojoj je kralj utemeljio svoju kraljevsku rezidenciju. Njegov sin Muhammed II također je imao prebivalište u Alcazabu sve dok palače nisu završene. Od tada, Alcazaba je bio korišten samo kao tvrđava u vojne svrhe.
Kad su kršćani preuzeli grad, učinili su mnogo posla kako bi obnovili Alcazabu. U različitim razdobljima svoje povijesti, dulje vrijeme, koristi se kao državni zatvor, čak i tijekom francuske okupacije.
Kao i Alhambra, Alcazaba je dugo napušten i nije se brinuo, a tek krajem 19. i početkom 20. stoljeća započeo je restauratorski, istraživački i vodovodni rad.