Две апсиды первоначального объема церкви хорошо видны со двора - большая апсида отмечает главный Антипьевский престол, а меньшая - придельный св. Григория Декаполита. Посвящение придела этому святому, может быть, обязано тому, что храмосоздателем мог быть Григорий Яковлевич Плещеев-Бельский, более известный как Малюта Скуратов, опричник Ивана Грозного. Известно, что в Антипьевской церкви в 1628 г. патриарх совершал отпевание его родственника (правнука его брата) Дмитрия Скуратова, возможно, имевшего усадьбу рядом с церковью. По книге 1657 г. возле церкви находился двор "Петра Дмитриева сына Скуратова".
Храм св. Антипия закрыли в 1929 г. - в августе этого года газета "Вечерняя Москва" сообщала, что церковь "будет предоставлена Неофилологической библиотеке", а до последнего времени помещение храма было занято Музеем изобразительных искусств.
Церковный участок полукольцом охватывает территория бывшей усадьбы Милославских XVIII в. (№ 6). Ее главный дом не сохранился, и примерно на его месте находится деревянный ампирный особняк, построенный после пожара 1812 г. действительным статским советником П. И. Глебовым, знакомым семьи Пушкиных, крестным отцом их третьего сына - Льва, родившегося 9 апреля 1805 г. Позади дома Глебова осталось хозяйственное строение, возможно, еще XVIII в., другое же строение, справа, появилось в 1820 г. В 1914 г. около старого здания сделана двухэтажная пристройка с левой стороны (архитектор Н. С. Шуцман). К этому времени относится и ограда с изящными, в стиле модерн столбами, увенчанными вазами. В усадьбе в конце 1830-х - начале 1840-х гг. жил профессор Московского Университета, врач, один из основателей учения о ревматизме Г. И. Сокольский.
В 1989 г. здесь производились раскопки под руководством известного археолога А. Г. Векслера. Были обнаружены остатки деревянных сооружений, сгоревших в грандиозный пожар 1737 г. Пожар этот начался от свечки, забытой у иконы в доме князя Милославского (отсюда появилось в русском языке выражение "Москва от копеечной свечки сгорела", означающее, что и большое, важное и серьезное может разрушиться от незначительной причины). Наряду со многими важными археологическими свидетелями прошлого буквально прямо под травяным дерном нашли заржавевший револьвер, серебряный портсигар с мелочью и записку, где были указаны денежные суммы, хранимые или переводимые на счет в Английском банке. Возможно, что кто-либо из владельцев или жильцов дома наспех спрятали эти вещи в дни большевистского переворота, надеясь вернуться сюда когда-нибудь.
До советского времени домом владел Н. И. Пастухов, против имени которого в справочнике "Вся Москва" было написано: "гор. Ярославль. Железо, сталь".
Прекрасный образец московского ампира - дом № 4. Изящные приставные колонки с ионическими капителями поддерживают крутой аттик-мезонин с большим полукруглым окном. Центр здания отмечен балконом с легкой, грациозной решеткой и кронштейнами, восстановленными при реставрации дома в 1960-х гг. Особенно интересны интерьеры его, в частности, роспись парадной лестницы, в которой основным декоративным мотивом являются масонские эмблемы и странные изображения, похожие на человеческие фигурки в разных позах. Возможно, что они имеют какое-то символическое, но пока неразгаданное значение.
Этот дом построен на бывшей земле церкви Иоанна Предтечи, стоявшей до 1793 г. на углу с улицей Волхонкой. Церковь была упразднена, а участок перешел к частным владельцам. Одна из них, В. А. Глебова, жена владельца соседнего (№ 6) участка, в 1826 г. начала строить этот особняк, который к ноябрю того же года был готов, но только в последних числах августа 1827 г., по сообщению полиции, он был "приспособлен к житью и окны вставлены". Проект здания принадлежит архитектору Ф. М. Шестакову, автору такого выдающегося сооружения, как церковь Большого Вознесения у Никитских ворот. Красива композиция парадного фасада дома, очень сдержанного, но в то же время нарядного, с его отчетливо выделенным центром, где расположен вход. Долгое время его называли домом Верстовского и считали, что композитор жил здесь, но, как оказалось, он никогда не был связан с этим домом.
С 1896 г. дом перешел к купеческой семье Бурышкиных, один из которых оставил любопытные воспоминания о купеческой Москве конца XIX - начала XX в., где пишет о доме: "...он не был удобен для жилья: парадные комнаты хороши, а жилые значительно хуже... В доме была большая лестница. Ею, будто бы, вдохновился Грибоедов для четвертого акта "Горя от ума". Как бы то ни было, но когда Художественный театр начал постановку „Горя от ума", к нам в дом не раз приезжала из театра большая комиссия, сняла ряд фотографий и сделала зарисовки. Но надо сказать, что наш дом был не единственный, о котором сохранилась такая легенда, отовсюду Художественный театр что-то позаимствовал". Последний владелец - П. А. Бурышкин - собрал, пользуясь помощью и советами И. Э. Грабаря, значительную коллекцию "всего, что касалось Москвы", и намеревался передать ее и весь дом городу для организации музея "Старая Москва".
Сразу же после большевистского переворота в доме поместились украинский и немецкий отделы Народного комиссариата по делам национальностей, затем детская библиотека, областная библиотека МОНО, в 1932 - 1960 гг. его занимали жильцы, пока, наконец, в 1961 г. не передали Музею изобразительных искусств, и после реставрации тут поместились коллекции гравюр и рисунков и архив музея.
На противоположном конце Колымажного переулка, ближайшего к Гоголевскому бульвару, выделяется своими большими формами одно из многочисленных зданий министерства обороны.
После проектирования монументального строения Военной академии на Девичьем поле один из родоначальников помпезного советского стиля, архитектор Л. В. Руднев, получил заказ на новое строительство - народного комиссариата военных и морских дел ("Наркомвоенмора") у Арбатской площади (1934 - 1938 гг.). К счастью, была выстроена только небольшая часть предполагавшегося огромного комплекса с доминировавшей в нем преувеличенно огромной аркой, выходящей на Арбатскую площадь. К сожалению, далеко видна назойливо вылезающая высокая башня этого строения, своим резко подчеркнутым срезом так не подходящая московскому силуэту.
Напротив военного здания - особняк, выстроенный представительницей славного рода Алексеевых (большая буква "А" изображена на торце здания) - Елизаветой Михайловной, матерью известного московского городского головы Николая Александровича Алексеева, убитого сумасшедшим в 1893 г. Особняк был построен архитектором М. Н. Чичаговым в 1885 - 1886 г. Тут после переезда советского правительства из Петрограда в Москву в 1918 г. обосновался один из департаментов Комиссариата земледелия.