Risalente almeno al IV secolo a.C., il Mahasthangarh è il primo sito archeologico urbano scoperto in Bangladesh. Diversi siti storici si trovano all'interno delle mura del bastione, tra cui un mausoleo (Mausoleo dello Shah Sultan Mahisawar Balkhi), un sito di un tempio (Bairgir Bhita), resti di un antico palazzo (Palazzo Parshuram) con un antico pozzo (Jiyat Kunda) e blocchi residenziali nella zona del bastione orientale.Uno dei punti salienti del Mahasthangarh è Govinda Bhita, dove si possono visitare i resti di due templi buddisti. Il tempio principale è stato eretto nel VI secolo e accanto ad esso si trova un tempio leggermente più piccolo, costruito nell'XI secolo.Di fronte a Govinda Bhita, vicino al lato nord della cittadella si trova il Museo Archeologico del Mahasthan. Il museo è abbastanza piccolo ma ha una collezione ben conservata di pezzi recuperati dal sito archeologico. Questi includono le statue di divinità e dee indù e buddiste, placche di terracotta che rappresentano la vita quotidiana, così come alcune immagini in bronzo ben conservate trovate nelle vicine rovine del monastero che risalgono al periodo pre-Pala. Vi sono anche alcuni frammenti di pietre ad anello che venivano utilizzate per i rituali nel periodo mauryano.