Родился 4 апреля 1850 года в семье купца 1-й гильдии Александра Ивановича Варгунина. Окончил Коммерческое училище с золотой медалью, затем – юридический факультет Санкт–Петербургского университета. По окончании университета Варгунин поступил на службу бухгалтером на Невской Писчебумажной фабрике.
Развитие народного образования в Невском районе Санкт-Петербурга во второй половине XIX века связано с именем Николая Александровича Варгунина. Его отец Александр Иванович Варгунин в 1839 году вместе с англичанином Гоббертом начал постройку писчебумажной фабрики на правом берегу Невы. С этой фабрики началось промышленное развитие правого берега Невы. Впервые здесь были использованы паровые двигатели для производства бумаги, в 1874 году фабрика получила право изображать государственный герб на своих изделиях. К началу ХХ века Невская Писчебумажная Фабрика была одной из крупных в России. После Октябрьской революции фабрика была национализирована, в 1924 году ей присвоили имя Володарского, с 1994 года АО «Бумага».
В 1875 году Николай Александрович стал членом Фарфоровского приходского попечительства, которое заботилось о просвещении местного населения. Председателем попечительства до 1888 года был его двоюродный брат, Владимир Павлович Варгунин.
Благодаря Н. А. Варгунину здесь возникли несколько начальных школ, технические и воскресные классы, библиотеки, «Невское общество по устройству народных развлечений» с читальней и театром и другие просветительные учреждения. Парк Невского общества по устройству народных развлечений в дальнейшем стал парком им. И. В. Бабушкина, располагается по адресу: проспект Обуховской Обороны, 149 и улице Бабушкина, 32.
С 1881 года Николай Александрович – гласный Санкт-Петербургской городской думы и уездного земства. В том же году назначен членом училищной комиссии, а 9 ноября 1887 года – заведующим городской бесплатной читальни на Выборгской стороне, открытой в память А. С. Пушкина.
Рабочие-ученики ценили труды своего наставника, на юбилей деятельности общества Н. А. Варгунин получил теплое поздравление от подопечных:
«Глубоко уважаемый Николай Александрович! Сегодня исполнилось 25 лет деятельности Фарфоровского Приходского Попечительства, во главе которого Вы ныне находитесь. Школы, в которых мы обучаемся обязаны Вам своим существованием, в них Вы даете нам все нужное для нашего образования и кроме того, заботитесь всеми возможными средствами об облегчении нам курса учения. Благодаря Вашему отеческому попечению мы получаем все учебные пособия, платья, а нуждающиеся среди нас – обувь и пищу. Вы заботитесь даже и о нашем будущем: изучение сапожного мастерства и рукоделия может доставить нам поддержку в дальнейшей нашей жизни, заботливость о нас побуждает Вас доставлять нам и развлечения и удовольствия в свободное от занятий время. От глубины нашего сердца приносим Вам и всем членам Попечительства нашу искреннюю благодарность за ее благие о нас попечения. Подписей – 225».
За деятельность по народному просвещению Н. А. Варгунин в 1895 году был награждён большой золотой медалью Императорского вольного экономического общества: «за выдающуюся полезную деятельность по народному образованию в Петербурге и его окрестностях».
В 1896 году вспыхнули забастовки. В Петербурге они были особенно остры и продолжительны. Гнев правительства обрушился на школы для рабочих. Варгунину с трудом удалось отстоять их существование. У Н. А. Варгунина был произведен тщательный обыск, который вызвал негодование общественности. Обыск очень сильно сказалсяна ослабленном здоровье, вернувшись из-за границы после неудачного лечения, Николай Александрович Варгунин неожиданно скончался 8 сентября 1897 года. Его похоронили на Фарфоровском кладбище (ныне не существует).