Родился 4 мая 1911 года в деревне Михайловка ныне Венгеровского района Новосибирской области в крестьянской семье. Русский.
Окончил начальную школу. С самого раннего детства уже работал по найму. Затем в колхозе «Новая жизнь» работал конюхом, пахал и сеял, трудился на маслозаводе. Смышленого парня заметили и предложили стать продавцом магазина местного сельпо. При очередных выборах в сельский Совет его избрали секретарем. Пять лет Николай проработал секретарем, а затем председателем сельсовета и одновременно секретарем комсомольской организации. Окончил курсы при обкоме комсомола.
13 октября 1938 года Николай Клименко был принят в партию, а через два месяца РК ВКП(б) направил его на работу в Венгеровский райком комсомола. Пропагандист, инструктор, заведующий отделом, секретарь райкома, с 1940 года – рабочком Тартасского совхоза, с мая 1941 – парторг совхоза.
В июле 1941 года он ушел на войну. После ускоренной подготовки на курсах политсостава молодой политработник Николай Клименко сразу же в 1942 году был отправлен на фронт и стал участником Сталинградской битвы. В составе 112-й Сибирской стрелковой дивизии он участвовал в обороне Сталинградского тракторного завода. Был тяжело ранен. За ратные подвиги из рук командующего 62-й армией В.И. Чуйкова получил орден Отечественной войны. После госпиталя участвовал в Курской битве на Огненной дуге.
Заместитель командира батальона по политической части 1324-го стрелкового полка (413-я стрелковая дивизия, 3-я армия, 1-й Белорусский фронт) старший лейтенант Клименко 28 июня 1944 года у деревни Заречье (Бобруйский район Могилевской области) с группой бойцов атаковал противника, уничтожив и взяв в плен много гитлеровцев.
В ходе операции «Багратион» 30 июня 1944 года Николай Клименко с группой из десяти бойцов заняла рубеж на высоте в полутора километрах от моста через реку Березина у деревни Свислочь (Осиповичский район). Он организовал круговую оборону и систему заградительного огня, раненый, стойко оборонял рубеж. Погибли в бою все. За этот подвиг Указом
Президиума Верховного Совета СССР от 24 марта 1945 года Николаю Ивановичу Клименко было присвоено звание Героя Советского Союза (посмертно).
Награжден орденами Ленина, Отечественной войны 2-й степени.
Похоронен в деревне Свислочь.
В Венгеровском районе чтят память земляка, его имя носит улица в райцентре. Постановлением главы территориальной администрации Венгеровского района от 25.05.1999 № 75 Тартасской средней школе присвоено имя Героя Советского Союза Н.И. Клименко. В Новосибирске его имя увековечено на Аллее Героев у Монумента Славы [178, 240, 422, 462].