На нынешней улице Ленина в конце XIX века были построены казарм Ленкоранско-Нашебургского полка, расквартированного в Витебске. В 1910 году, после перестройки, здесь стали располагаться Частная мужская гимназия И. Р. Неруша, здесь же открылся новый Витебский учительский институт и отделение Московского археологического института (а также библиотека в четыре тысячи томов). Видную роль в открытии учебных учреждений сыграла Витебская ученая архивная комиссия - общество поддерживающее изучение культуры и истории губернии. 

Этот образовательный центр просуществовал до 1918 года

Трехэтажное здание сохранилось до наших дней и было реконструировано в 2010-гг. Сейчас этот дом входит в Государственный список историко-культурных ценностей Витебска.