Считается, что название «Успенский вражек» происходит от деревянной Успенской церкви, стоявшей на берегу оврага (вражка), который проходил между Никитской и Тверской улицами.

Первое документальное упоминание деревянной церкви относится только к 1625 году. В 1647 году Григорием Горихвостовым на месте разобранной деревянной церкви была построена новая каменная с двумя приделами, во имя Николая Чудотворца и Иоанна Предтечи. В 1775 году Никольский придел был разобран, а вместо него построили отдельную каменную церковь с тем же именем.

В 1857—1860 годах храм был перестроен на средства купца Сергея Афанасьевича Живаго, а его престолы были освящены митрополитом Московским Филаретом (Дроздовым).

В 1924 году храм был закрыт, в его здании был размещён Московский областной исторический архив, а после ремонта 1979 года — междугородная телефонная станция, в алтарной части находилась касса, окошко которой располагалось на месте Царских врат.

В 1992 году было издано постановление правительства Москвы о возвращении храма Русской православной церкви. В 1996 году общине была передана в пользование крипта храма, которая была освящена во имя Николая Чудотворца, где в Фомино воскресение была свершена первая литургия. В 1999 году был передан верхний храм во имя Успения Пресвятой Богородицы.