Orlovien muutettua Ranskaan 1920-luvulla on kartanorakennuksessa toiminut hotelli-ravintola, lentokoulu ja ruokakauppa, mutta vuodesta 1989 alkaen siellä on Viron historiallinen museo. Rakennuksen takana oleva n. 4,5 km pituinen Maarjamäen kalkkikivitörmä otettiin ensimmäisen kerran suojelukohteeksi 11.5.1938 ja uudelleen 22.5.1992. Kalkkikivi on Viron kansalliskivi ja Maarjamäellä syntyneellä korkealla penkereellä voi nähdä hyviä kambri- ja ordovikikautisia kivipaljastumia. Penkereen suhteellinen korkeus on enintään 30 m, absoluuttinen korkeus 47 m.
Johan Gottlieb Clementz perusti vuonna 1811 Maarjamäen alueen sokeritehtaan, jonka mukaan aluetta kutsuttiin alun perin Sokerimäeksi. Huomattavin paljastuma Maarjamäen kalkkikivikalliolla kantaa edelleen Sokerimäen nimeä. Tehdas muutettiin omistajan vaihdoksen myötä vuonna 1837 tislaamoksi, joka kuitenkin paloi vuonna 1869. Pietarilainen kreivi Anatoli Orlov-Davõdov rakensi alueelle vuonna 1873 kesäkartanon, jolle antoi nimeksi Marienberg ilmeisesti vaimonsa tai tyttärensä (molempien nimi oli Maria) mukaan. Nimen virolaista versiota alettiin käyttää 1930-luvun lopussa.
