Das sogenannte „Häuschen Peters des Großen“ wurde 1692 im Barockstil als Wohnhaus errichtet und an der Wende zwischen dem 18. und 19. Jahrhundert umgebaut. Als eines der wenigen, aus der Epoche des Polnisch-Litauischen Staates (1569-1795) erhaltenen steinernen Gebäude repräsentiert es den damals für kleine Wohnhäuser üblichen Baustil. Einer Legende nach stieg Zar Peter d. Gr. in diesem Haus ab, als er im Juli 1705 während des Großen Nordischen Krieges (1700-1721) zur Inspektion seiner Truppen nach Polozk kam.

Im 2. Weltkrieg wurde das Haus stark beschädigt. 1949 wurde es instand gesetzt und als Kinderbücherei genutzt. Seit 1998 beherbergt es das kulturhistorische Museum von Polozk. 2008 wurde das Gebäude grundlegend saniert.