Datant au moins du 4ème siècle avant Jésus-Christ, Mahasthangarh est le plus ancien site archéologique urbain qui ait été découvert au Bangladesh. Plusieurs sites historiques sont situés à l'intérieur des remparts, dont un mausolée (Mausolée du Shah Sultan Mahisawar Balkhi), un temple (Bairgir Bhita), les vestiges d'un ancien palais (Parshuram's Palace) avec un ancien puits (Jiyat Kunda) ainsi que des blocs résidentiels dans la zone des remparts à l'est. L'un des points forts du Mahasthangarh est Govinda Bhita, où l'on peut visiter les vestiges de deux temples bouddhistes. Le temple principal a été érigé au VIe siècle et un temple légèrement plus petit a été construit à côté au XIe siècle. En face de Govinda Bhita, près du côté nord de la citadelle, se trouve le musée archéologique du Mahasthan. Le musée est assez petit mais possède une collection bien entretenue de pièces récupérées sur le site archéologique. Il s'agit notamment de statues de dieux et de déesses hindous et bouddhistes, de plaques de terre cuite représentant la vie quotidienne, ainsi que de quelques images en bronze bien conservées trouvées dans les ruines du monastère voisin et qui remontent à la période pré-Pala. Il y a même des fragments de pierres annulaires qui étaient utilisées pour des rituels à l'époque des Mauryans.
