Родился 10 (23) марта 1900 года в Обояни Курской губернии. Брат Николая, Евгений, также выбрал актерскую стезю. Оба брата стали актерами Одесского русского драматического театра имени А.Иванова. Однажды они бросили жребий, кому оставлять фамилию Агуров, а кому брать псевдоним. Менять фамилию пришлось Николаю, так он и стал Волковым.
С 1921 года Николай Волков начал выступать на сценах театров, окончив предварительно театральную студию в Баку. Работал в театрах Перми, Казани, Иваново, Баку. В 1933 году стал работать в Одесском русском драмтеатре имени Иванова.
В качестве театрального актера более 20 лет играл в Одессе, на других сценах. В годы Великой Отечественной войны работал на Ташкентской киностудии и снялся в нескольких фильмах. Один из его фильмов тех лет – «Насреддин в Бухаре» Якова Протазанова.
После победы Николай Волков вернулся в Одесский театр, работать в качестве киноактера практически прекратил. Однако кинокарьера Волкова была отнюдь не закончена. В 1956 году режиссер будущего фильма «Старик Хоттабыч» по роману Лазаря Лагина искал возможного исполнителя главной роли. Перебирая на студии «Ленфильм» кандидатов, режиссер случайно нашел отрывок из ленты «Насреддин в Бухаре» с Волковым и актер (в том фильме он играл звездочета Хуссейна-Гуслию) получил роль джинна Хоттабыча, сделавшую его известным на весь Советский Союз.
После «Старика Хоттабыча» на Николая Волкова посыпались предложения от режиссеров, его приоритет в карьере резко сместился от театра к кино. Вскоре он был вынужден полностью оставить театральную работу ввиду недостатка времени.
В 1956 году актер получил звание народного артиста Украинской ССР, в 1972 году Николаю Волкову было присвоено звание заслуженного артиста РСФСР.
Николай Волков скончался 25 октября 1985 года. Последний фильм с его участием («Вера»), вышел уже в 1986 году, после смерти Волкова. Похоронили Николая Волкова на Введенском кладбище в Москве.
