Baf Kalesi, limanı korumak için inşa edilmiş bir Bizans kalesiydi. 1222 yılında bir depremle yıkılmış ve Lüzinyanlar tarafından yeniden inşa edilmiştir. 16. yüzyılın ortalarında Venedikliler tarafından tekrar yıkılmış ve 1592 yılında Osmanlılar adayı ele geçirdiklerinde yeniden inşa edilmiştir. İngiliz döneminde kale tuz deposu olarak hizmet vermiştir. Bir depremde tekrar hasar görmüş ve Temmuz 1974'te Türk kuvvetleri tarafından Baf limanının bombalanması sırasında isabet almıştır. Neyse ki bombalama sırasında kale tamamen zarar görmemiştir. Kale 1935 yılında Eski Eserler Kanunu kapsamında antik bir anıt olarak ilan edilmiştir ve günümüzde çeşitli kültürel etkinliklere ev sahipliği yapmaktadır.