Ozu Castle staat op een heuvel bij de Hijikawa rivier in het noordwesten van het centrum van Ozu. Het kasteel heeft zijn oorsprong in de jaren 1300, en het werd een paar keer herbouwd door de jaren na vernietiging door brand, evenals natuurlijke en door mensen veroorzaakte rampen. Het huidige kasteel is sinds de jaren vijftig in fasen gereconstrueerd, en in 2004 werd de reconstructie van het hoofdgebouw eindelijk voltooid. In tegenstelling tot veel andere kastelen die in de vorige eeuw werden herbouwd met ferro beton, werd de belangrijkste keep Van Het Kasteel van Ozu voornamelijk gemaakt met hout en traditionele bouwtechnieken. Als gevolg hiervan, het lijkt dicht bij het oorspronkelijke kasteel niet alleen van buiten maar ook van binnen.