Здание, включающее учебные помещения и концертные залы, было перестроено из дома графа М. С. Воронцова в 1895—1901 годах архитектором В. П. Загорским и скульптором А. А. Аладьиным.
Дом графа М. С. Воронцова на плане 1852 года:
Консерватория на плане Москвы 1888 года:
В 1932—1933 годах трёхэтажное здание было надстроено по проекту И. Е. Бондаренко. В 1983 году к консерватории присоединено здание Синодального училища церковного пения. Это здание в стиле классицизма (бывший Дом Колычеых) было возведено в конце XVIII века неизвестным архитектором школы М. Ф. Казакова.