Председательницей комитета была избрана В. Н. Фигнер, а почетной председательницей - вдова Петра Алексеевича - С. Г. Кропоткина. Для координации работы было создано исполнительное бюро из шести человек. Секретарем бюро стал душеприказчик Кропоткина Н. К. Лебедев. Временным адресом комитета для переписки и собраний служила его квартира в Большом Афанасьевском пер. (д. 7, кв. 7)28.
С конца 1921 года исполнительное бюро приступило к созданию музея. Собственно, приступить к его немедленному устройству комитет не мог ввиду того, что дом требовал серьезного ремонта. После революции в нем сначала помещался детский дом, а затем - военно-инженерная служба "Лесгвиу". Летом следующего года, предварительно заняв в Дмитровском финотделе 1 млн. руб., С. Г. Кропоткина поручила Г. И. Аносову (делегированному в комитет от Всероссийской Федерации анархистов и анархистов-коммунистов) привести дом в порядок, что и было сделано. Первой на призыв помочь создавшемуся музею средствами откликнулась нью-йоркская группа анархистов, приславшая около 100 долларов. Затем начали поступать другие пожертвования. Наконец, усилиями таких подвижников, как супруги Лебедевы, М. П. Шебалин (первый заведующий музеем), Е. П. Ростковский (казначей комитета), С. С. Анисимов и др., через год с небольшим удалось открыть экспозицию.
Церемония открытия Музея им. Кропоткина состоялась 9 декабря 1923 года - в день рождения Петра Алексеевича. На ней присутствовало свыше двухсот человек, еще столько же осталось на улице из-за невозможности вместить всех желающих29.
Первым экспонатом музея стал кропоткинский портрет работы Л. О. Пастернака, купленный С. Г. Кропоткиной на деньги, занятые у издательства "Голос Труда"30. Основным ядром музейного собрания явилась коллекция фотографий, рисунков и рукописей Кропоткина, переданных комитету Софьей Григорьевной. Позже оно пополнилось семейными портретами и документами, переданными родственной Кропоткину семьей Поливановых, а также материалами, собранными его друзьями. Первоначально все экспонаты уместились в трех комнатах, и в таком виде музей просуществовал до 1925 года.
Средства музея формировались за счет добровольных взносов членов комитета, его изданий, пожертвований и разных благотворительных вечеров. В фонде В. Фигнер в Российском госархиве литературы и искусства сохранилась программа "музыкально-вокального вечера в пользу Музея им. Кропоткина"31, в котором принимали участие артисты Вахтанговского театра Журавлев, Орочко, Андреева, Лебедев, Тутышкин, скрипач Шереметьев, певцы Баскин и Петров. Устраивались и литературные вечера. На одном из них выступила В. Фигнер с чтением своих воспоминаний. В другой раз В. Вересаев читал открывки из романа "В тупике"32. Кроме того, устраивались мероприятия в пользу Музея им. Кропоткина в других местах. Известно, например, о лекции "О туризме и альпинизме на Кавказе" С. С. Анисимова, читанной им в большой зале Государственной академии художественных наук (Кропоткинская, 32)33. Так что у автора путеводителя по музею Н. К. Лебедева имелись все основания написать: "Кропоткинский Музей создан и поддерживается на добровольные пожертвования. Комитет по увековечению памяти П. А. Кропоткина, стремясь следовать духу учения П. А. Кропоткина, верившего в свободное творчество народа и считавшего основным принципом жизни добровольное сотрудничество и кооперацию, полагает, что создание Музея им. П. А. Кропоткина должно быть делом широко общественным и международным, плодом добровольного сотрудничества всех, кто хранит благоговейную память о великом революционере"34.
Когда вдова Кропоткина привезла из Лондона личную библиотеку и архив Петра Алексеевича, черновые рукописи его работ и предметы обстановки рабочего кабинета, экспозиция начала расширяться. Увеличился и приток денежных средств, в первую очередь из Англии, где образовался Комитет содействия Музею им. Кропоткина с участием Бернарда Шоу и Герберта Уэллса. К 1928 году музей занимал восемь комнат. Первые четыре комнаты были посвящены детству и отрочеству Кропоткина, его научной и революционной деятельности в 1870 - 1876 гг. Пятая комната воспроизводила обстановку рабочего кабинета Кропоткина в Лондоне, шестая (траурная) - освещала обстоятельства смерти и похорон Петра Алексеевича. Экспонаты седьмой отражали его роль и место в мировом революционном движении, а в восьмой находилась библиотека-читальня.
Делом создания музея занималась преимущественно Научная секция Всероссийского Общественного комитета по увековечению памяти Кропоткина и его музейная комиссия. Но внутри комитета существовала и Анархическая секция, деятельностью которой в разное время руководили члены Секретариата Всероссийской Федерации анархистов и анархистов-коммунистов Г. И. Аносов, А. А. Солонович, И. В. Хархардин, лидеры Союза анархо-синдикалистов А. А. Боровой и Г. Б. Сандомирский, лидер Рабочего Союза анархистов Н. И. Петров-Павлов и другие видные анархисты. Свои цели Анархическая секция декларировала следующим образом: "Являясь частью Комитета, (секция) автономна в своей работе и имеет целью изучение жизни, учения и деятельности П. А. Кропоткина и распространение его идей"35. Секция дважды в неделю проводила собрания при открытых дверях в читальне музея. Из читателей библиотеки был образован библиографический кружок по изучению наследия Кропоткина и Бакунина, которым руководили Н. Р. Ланг и Д. А. Бем.
Музей им. П. А. Кропоткина был тесно связан с деятельностью Всесоюзного Общества бывших политкаторжан и ссыльнопоселенцев, клуб которого располагался между Пречистенкой и Остоженкой по адресу: Лопухинский пер., д. 5. Особенно близкие связи у него были налажены с Центральным музеем каторги и ссылки и с Кружком народовольцев при Обществе политкаторжан. Руководившие работой кружка А. В. Якимова-Диковская (председатель президиума), М. П. Шебалин, М. Ф. Фроленко, И. И. Попов, Н. И. Ракитников, Е. П. Ростковский, А. Н. Макаревский являлись членами Комитета по увековечению памяти Кропоткина. Следует особо отметить активное участие в комитете старейшего русского революционера-бакуниста, члена Юрской федерации 1 Интернационала - М. П. Сажина (Армана Росса), второго по известности и влиянию после Кропоткина человека в анархическом движении - Аполлона Карелина, старых анархистов А. М. Атабекяна и К. Н. Медынцева.
Объективности ради, следует сказать, что историю Кропоткинского музея нельзя живописать в одном только радужном свете. Далеко не все обстоит в ней благополучно. Денежных средств, например, едва хватало на содержание экспозиции в порядке и зарплату сотрудникам, но отнюдь не на развитие музея. Секретарь комитета Лебедев сетовал по этому поводу в письме к С. Г. Кропоткиной: "Музейная касса пуста, так как получек вот уже почти полгода ниоткуда не было. Я не знаю, как будем жить дальше. Ремонта никакого не делали"36. То, что Анархическая секция вела в стенах музея неприкрытую пропаганду своих идей и тем самым невольно ставила под угрозу само существование музея, привело в 1925 году к серьезному конфликту между ее тогдашним руководством, с одной стороны, и Кропоткиной, Фигнер и Шебалиным - с другой37. Компромисс с анархистами, не принимавшими активного участие в конфликте, был достигнут за счет избрания заместителем В. Фигнер в Исполнительном бюро А. А. Борового и отставки с этого поста П. Пальчинского. Однако в 1928 году конфликт вспыхнул с новой силой, и на сей раз он начался внутри Анархической секции.