Найдавніше поселення на території сучасного міста Грац відноситься до епохи енеоліту. Однак ніякої історичної спадкоємності між поселеннями до Середньовіччя не існує. У 12 столітті герцоги під владою Бабенбергів перетворили місто на важливий торговий центр. Пізніше Грац перейшов під владу Габсбургів, а в 1281 році отримав особливі привілеї від короля Рудольфа I.
У 14 столітті Грац став містом резиденції внутрішньої австрійської лінії Габсбургів. Члени королівської сім'ї жили в замку Шлосберг і звідти управляли Штирією, Каринтією, більшою частиною сучасної Словенії і деякими частинами Італії.
У 16 столітті дизайн і планування міста в основному контролювалися італійськими архітекторами і художниками епохи Відродження. Одним з найвідоміших будівель, побудованих у цьому стилі, є Landhaus, розроблений Доменіко делл'алліо і використовується місцевими правителями як урядовий штаб.
Грац є зразковою моделлю живої спадщини Центральноєвропейського міського комплексу, на який вплинула світська присутність Габсбургів і культурна і художня роль, яку грали головні аристократичні сім'ї. Вони являють собою гармонійне поєднання архітектурних стилів і художніх течій, які змінювали один одного з Середніх століть до 18 століття в багатьох сусідніх регіонах Центральної і середземноморської Європи. Вони втілюють в собі різноманітний і дуже всеосяжний ансамбль архітектурних, декоративних і ландшафтних прикладів цих взаємозамінних впливів.
У 1999 році Грац був внесений до списку об'єктів Всесвітньої культурної спадщини ЮНЕСКО, а в 2010 році цей об'єкт був розширений за рахунок замку Еггенберг.