Место, занимаемое теперь Арсеналом, до 1702 года было застроено частными домами, сахарным заводом, церковью Входа в Иерусалим и стрелецким двором Лыкова, известным тем, что из него тайно были посланы стрельцы в Преображенский дворец, чтобы умертвить Петра. Указом 1701 года все эти постройки поведено было сломать и на их месте воздвигнуть Оружейный дом. Постройка этого дома под названием Цейхгауз начата в 1702 году по рисункам саксонца Конради, но окончена только при императрице Анне Ивановне, в 1736 году, а внутренняя отделка продолжалась до конца XVIII столетия. Между прочим, после пожара 1737 года его возобновлял в 1754 году архитектор Ухтомский.
Целью основания Арсенала была заготовка на всю армию двойного количества оружия и амуниции. Двухсоттысячная армия пехоты и кавалерии может облечься здесь с головы до ног и во всеоружии выйти под новыми знаменами в поле. Устройство и порядок расположения необозримого количества амуниции и оружия не имеют себе подобных. Кроме того, в Арсенале хранятся: знамя Петра Великого, знамя и пищали Пугачева и много других вещей воинского снаряжения. Вдоль наружных стен Арсенала расставлены трофеи 1812 года - пушки. Их всех 875, и принадлежали они кроме французов двенадцати народностям.
В 1812 году Арсенал был взорван по приказанию Наполеона, но при императоре Николае Павловиче он снова возобновлен.