Только с помощью многочисленных жертвователей и московской администрации в лице великого князя Сергея Александровича мысль Цветаева удалось претворить в действительность, но однако без поддержки такого щедрого мецената, как Ю. С. Нечаев-Мальцев, музей не был бы построен. Как писал И. В. Цветаев в дневнике о нем: "Один такой покровитель Музея стоит мне целого десятка московских купцов и бар, сношения с которыми подчас так тяжелы, утомительны и бесплодны". Только на облицовку здания он пожертвовал 300 тысяч рублей, а всего Нечаев-Мальцев потратил на музей около двух с половиной миллионов.
Музей был открыт 31 мая 1912 г., создатель его через год скончался от сердечного приступа, и по справедливости музею должно быть присвоено именно его имя - Ивана Васильевича Цветаева. Через сорок дней умер и главный даритель, без которого Москва не имела бы этого музея - Юрий Степанович Нечаев-Мальцев.
Музей сразу же стал одним из самых крупных культурных центров Москвы - недаром именно туда попала ценнейшая коллекция египетских древностей В. С. Голенищева, когда этот собиратель был вынужден продать ее.
Само здание музея является учебным экспонатом: на наружном портике находится фриз, созданный петербургским скульптором Г. Р. Залеманом "Олимпийские игры", за колоннадой - фриз "Панафинейская процессия", повторяющий фриз Парфенона, выполненный скульптором Л. Армбрустером. "Итальянский дворик", где стоит статуя Давида, скопирован (с изменением пропорций) с дворика палаццо Барджелло во Флоренции, в Белом зале воспроизведен фриз балюстрады храма Ники Аптерос в Афинах, а пол сделан по образу пола церкви S. Paolo fuori le mura в Риме.
В советское время музей многократно увеличил количество своих экспонатов и стал музеем мирового значения.
В 1987 г. музей получил еще одно здание (№ 14) для экспонирования личных коллекций - оно находится на другом, левом, углу Малого Знаменского переулка. Инициатором создания этого музея был И. С. Зильберштейн, неутомимый исследователь истории русской культуры и один из крупнейших коллекционеров, собравший более 2300 произведений искусства Западной Европы и России. Для музейных экспозиций пришлось коренным образом перестроить здание, в котором перед передачей его музею находился "Автоэкспорт" (авторы реконструкции, проведенной в 1988 - 1993 гг., Д. В. Буш, И. М. Виноградский).
До советского времени это была гостиница "Княжий двор" (1892 г., архитектор В. Г. Залесский). Здесь останавливались В. И. Суриков, М. Горький, М. Н. Покровский, И. Е. Репин, А. Н. Скрябин, И. Г. Эренбург, Л. О. и Б. и А. Л. Пастернаки, А. И. Эргель, А. Н. Скрябин, В. О. Массалитинова.
В "Княжьем дворе" в 1913 г. собрались художники и литераторы, приветствовавшие И. Е. Репина, приехавшего в Москву после того, как он получил известие о том, что сумасшедший порезал его картину "Иван Грозный убивает своего сына". На этом собрании выступил И. А. Бунин, выразивший от имени собравшихся сочувствие художнику.
Любопытно, что в этом здании проводились художественные выставки: так, в 1908 г. здесь состоялась выставка Союза русских художников и посмертная экспозиция картин С. А. Коровина. В советское время тут находилось общежитие Наркоминдела, гостиница "Европейская" и в самое последнее время - "Автоэкспорт". До 1960 г. к торцу этого здания примыкал двухэтажный флигель усадьбы Голицыных, главное здание которой находится в Малом Знаменском переулке.
Эта усадьба (№ 1/14) в XVII в. принадлежала боярину Борису Гавриловичу Юшкову, в 1738 г. ею владел генерал-адмирал князь М. И. Голицын. На плане усадьбы, снятом в 1759 г., обозначены каменные палаты на месте современного дома. Они перестраивались в 1761 гг. (отделка была закончена в 1766 г.). Авторство этого дворца до недавнего времени приписывалось двум архитекторам: С. И. Чевакин-скому и И. П. Жеребцову, однако новыми исследованиями было установлено, что проект переделки был выполнен одним С. И. Чевакинским, выдающимся архитектором, автором таких известных сооружений барокко в Петербурге, как Никольский морской собор и дворцы Шереметева и Шувалова. Жеребцов же участвовал лишь во внутренней отделке голицынского дворца, которая закончилась к 1766 г. К тому же времени относятся и прекрасной работы парадные ворота с ажурным вензелем - "PMG" - (что означает Prince Michail Golitzin") - одного из владельцев дома князя Михаила Михайловича Голицына. В 1774 г. голицынский особняк, как и соседние дома Долгорукова (Волхонка, 16) и Лопухина (М. Знаменский, 3), был приспособлен для пребывания в нем Екатерины II, а между ними, на том месте, которое сейчас занято бензоколонкой для правительственных автомобилей, построили по проекту М. Ф. Казакова обширный деревянный дворец с большим - площадью около 775 кв. м - двухсветным тронным залом. Писатель и ученый А. Т. Болотов вспоминал, что, "несмотря на всю стужу и зимнее тогдашнее время, производилось строение сие с великим поспешением и тысячи рук занимались оным денно и ночно". Церковь при дворце освящена 16 декабря 1774 г. во имя св. Андрея Печерского, а 31 декабря 1774 г. (очевидно, был дан приказ закончить обязательно в этом году, прямо как в благословенные советские времена) начальник Кремлевской экспедиции М. М. Измайлов рапортовал об окончании строительства. Английский путешественник Уильям Кокс, побывавший в то время в Москве, отмечал, что "здание, сооруженное с быстротой молнии, оказалось столь красиво и удобно, что материал, из которого оно сооружено, был употреблен впоследствии на постройку императорского загородного дворца, стоящего на небольшой возвышенности в окрестностях города" - речь идет о дворце на Воробьевых горах. Однако Екатерина осталась недовольна казаковской постройкой - она писала барону Гримму: "Вы желаете иметь план дома, где я живу. Я вам его пришлю, но опознаться в этом лабиринте премудреная задача: прошло часа два, прежде чем я узнала дорогу к себе в кабинет, беспрестанно попадая не в ту дверь. Выходных дверей многое множество, я в жизнь мою столько не видала их. С полдюжины заделано по моему указанию, и все-таки их вдвое больше, чем нужно". В начале XIX в. дом принадлежал князю С. М. Голицыну, в домовой церкви которого, освященной во имя Рождества Христова и помещавшейся в северной части здания, предполагал венчаться А. С. Пушкин. Но митрополит Филарет предписал устроить обряд венчания в приходской церкви невесты у Никитских ворот, чтобы не лишать заработка тамошний причт. Эта церковь, как и все домовые храмы, была закрыта при большевиках, но еще долгое время там сохранялся красивый иконостас. В 1925 г. член президиума Коммунистической академии В. П. Милютин настоятельно требовал убрать из помещения церкви иконостас, так как она была, как он сообщал, "...занята гистологическим отделом Института мозга, а поэтому иконостас крайне препятствует работе".
С. М. Голицын в 1834 г. был назначен председателем следственной комиссии по делу "о лицах, певших пасквильные песни", как называлось сфабрикованное полицией дело, по которому были арестованы и приговорены к различным наказаниям Александр Герцен, Николай Огарев и их товарищи. Приговор осужденным был объявлен в этом доме 31 марта 1835 г. "Торжественный, дивный день, - писал Герцен. - Кто не испытывал этого, тот никогда не поймет. Там соединили 20 человек, которые должны прямо оттуда быть разбросаны, одни по казематам крепостей, другие по дальним городам".
Дом князя был поставлен на широкую ногу, его обслуживало небывалое даже тогда количество дворовых, которыми заведовал некий персианин, которого все знали под именем Михаила Сергеевича, щеголявший "...по стогнам белокаменной, несмотря на трескучие морозы, в белых коленкоровых невыразимых и высокой барашковой шапке".