Скромная каменная церковь построена "при самом въезде у ворот, на правой руке" на средства купца Г. Г. Никонова в 1812 – 1814 годах. Он также дал деньги на иконостас, утварь и ризницу. 27 сентября 1814 года небольшой храм, построенный по проекту неизвестного архитектора в стиле ампир, был освящен во имя Святителя Николая Чудотворца.

В 1869 - 1870 годах Никольская церковь была капитально отремонтирована на средства купцов братьев Елисеевых и купца Синебрюхова, и 22 октября 1870 года вновь освящена. В простых формах здания воплотились типичные черты зодчества классицизма: завершение фасадов треугольными фронтонами, обработка стен пилястрами, перекрытие основного помещения плоским куполом. Церковь капитально перестраивалась и в 1884 году, была дополнена пристройками левого (северного) придела во имя Святого Духа и трапезной. В середине XX века к западу от здания церкви была возведена деревянная двухъярусная колокольня со вспомогательными постройками.

После революции Никоновская церковь ни разу не закрывалась. В настоящее время в церкви хранится несколько чтимых икон, переданных в неё из закрытых и снесенных охтинских храмов, среди них древний образ Праведного Иосифа Древодела и Смоленской Божией Матери из разрушенной Свято-Духовской церкви и очень почитаемая прихожанами икона Божией Матери Скоропослушницы из богадельни при церкви Казанской иконы Божией Матери Большеохтинского кладбища. Вероятно, из снесенной Георгиевской церкви на этом же кладбище были переданы в храм икон Святителя Николая Чудотворца, преподобного Сергия Радонежского, преподобного Серафима Саровского и великомученика Георгия Победоносца. В наши дни Никольский храм на Большеохтинском кладбище - один из наиболее посещаемых в городе.