После ФЗУ работал слесарем в сасовском железнодорожном депо, а в 1936 г. поступил в Тульский механический институт.
В начале Великой Отечественной войны его отозвали с преддипломной практики, досрочно присвоили квалификацию инженера и направили в Загорск, на завод, выпускавший пистолеты-пулеметы Шпагина.
Вскоре завод перевели в Вятские Поляны Кировской области; там Николай Федорович быстро прошел путь от мастера до ведущего конструктора, а в 1944 г. завершил обучение в Тульском механическом институте, получив диплом с отличием.
В 1945 г. объявили конкурс по созданию нового пистолета, который должен быть меньше и легче ТТ, иметь лучшую точность и надежность при том же поражающем действии пули 7,62-мм патрона или нового боеприпаса 9Х18 В.В.Семина с уменьшенным зарядом пороха.
Николай Федорович подготовил два образца: ТКБ-412 под патрон 7,62 и ТКБ-429 калибра 9 мм. Последний был принят на вооружение в 1951 году под названием "Пистолет Макарова" (ПМ).
Второй работой Николая Федоровича была разработанная совместно с Н.М. Афанасьевым авиационная пушка АМ-23, принятая на вооружение в 1953 году и ставшая одной из самых массовых в послевоенный период. Пушка была снята с вооружения в 1972 году.
Макаров принимал также участие в разработке противотанковых управляемых ракетных комплексов "Фагот" (за что получил вторую Государственную премию и звание Героя социалистического Труда) и "Конкурс", принятых на вооружение в 1970 и 1974 году соответственно.
Почти 30 лет — с 1945 вплоть до ухода по болезни на пенсию в 1974 г. — Макаров трудился в тульском Конструкторском бюро приборостроения. На счету Н.Ф.Макарова — 36 изобретений.
Он награжден орденами Ленина, Трудового Красного Знамени, медалями, дважды удостоен Государственной премии, а также премии имени С.И.Мосина; в 1974 г. ему присвоено звание Героя Социалистического Труда.
14 мая 1988 г. Николай Федорович скончался после тяжелой болезни.