Создатель миссионерской системы христианского образования, в основе которой лежит стремление улучшить «дело умственного, религиозного и нравственного воспитания» нерусских народов Поволжья путем использования родного языка, местного быта и обычаев. В 1872 году основал Казанскую инородческую учительскую семинарию, директором которой был до 1891 года. В последствии в ней учились многие видные деятели марийской культуры, в т.ч. С.ЧАВАЙН, В.МУХИН, А.ЭШКИНИН.

Родился Николай в семье священника - протоиерея. В двадцать лет поступил в Казанскую Духовную Академию где отличился большими способностями к изучению языков. По окончании учебы на физико-математическом отделении в 1846 году был оставлен в академии «бакалавром естественных наук и турецко-татарского языка», преподавал естественно-научные предметы, историю философии, древнееврейский язык, совершенствуясь в татарском. Командированный в 1850 году, в Санкт-Петербург для проверки татарского перевода богослужебных книг и Нового Завета, ИЛЬМИНСКИЙ принял участие в работе соответствующей комиссии.

Затем, в 1851-1853 годах его академическая и миссионерская деятельность была прервана научной командировкой на Ближний Восток: он отправился в Дамаск, Константинополь и Каир, где изучал мусульманское богословие, языки арабский, турецкий и персидский.

Во вновь открытом при Казанской Духовной Академии противомусульманском отделении ему было поручено в 1854 году преподавание арабского и турецкого языков, а также других наук. В 1858 году, обвиненный в пропаганде мусульманства, ИЛЬМИНСКИЙ оставил академию. Затем он до 1861 года служил при Оренбургской пограничной комиссии, откуда был перемещен в Казанский Императорский университет профессором турецко-татарского языка; восточные языки читал и в Казанской Духовной Академии в 1863-1870 годах. В 1870 году он стал членом-корреспондентом Санкт-Петербургской Академии наук. Пять лет, с 1867 по 1872 год, ИЛЬМИНСКИЙ редактировал «Известия» и «Записки» Казанского университета. В 1872 году Николай Иванович был назначен директором Казанской инородческой учительской семинарии и с этих пор посвятил себя всецело просвещению инородцев Российской Империи.

Уже в первые годы научной деятельности он активно участвовал в происходившем тогда обсуждении проблем миссионерства, работал над переводами Священного Писания на татарский язык. По поручением архиепископа Казанского ГРИГОРИЯ (ПОСТНИКОВА) он много ездил по селениям Казанской губернии и выносил из таких поездок, как новое для своих филологических познаний, так и ценные сведения о религиозной ситуации на местах. В этих путешествиях он на деле столкнулся с тем бедственным положением, в котором находилось миссионерство среди народов Казанского края. Многие из коренных жителей Среднего Поволжья: мари, чуваши, удмурты и часть татар, уже давно считались православными, но были чужды даже внешней стороны христианства, и в середине XIX века многие новокрещены стали целыми деревнями возвращаться к прежней вере – язычеству и исламу. Не способствовало утверждению этих народов в Православии и совершенное невнимание к их школьному просвещению.

ИЛЬМИНСКИЙ взялся изменить дело. Его общительный характер, знание языка и способность притягивать людей, располагала к нему самых недоверчивых. Из этого живого общения, в те годы родились идеи, сыгравшие важнейшую роль в христианской жизни Поволжских народов. А созданная им в 1863 году Казанская крешено-татарская школа стала образцом, по которому стали создаваться подобные школы в других местах Казанской губернии и за ее пределами. 

Он был одним из основателей миссионерского Братства святителя Гурия, открывшегося в Казани в 1867 году и возглавил его Переводческую комиссию. Делал переводы уже не только на татарский, но и на марийский, чувашский и другие языки, которые осваивал с удивительной быстротой. ИЛЬМИНСКИЙ оказал помощь С.НУРМИНСКОМУ в подготовке и издании «Букваря для начального обучения черемисских детей русской грамоте»; содействовал публикации материалов о жизни марийцев. 

Вся деятельность ИЛЬМИНСКОГО была направлена на «прочное сближение инородцев с коренным населением путем просвещения», под которым в первую очередь понималось Православное Христианство. Проповедуя Евангелие всем языкам, он стремился приобщить нерусские народы к русской, — а через нее и к общечеловеческой, — культуре и одновременно сделать доступными для русских культурные ценности других народов России. Родной язык он считал основанием и первостепенным орудием школьного образования, а главную роль отводил начальной школе. Совокупность миссионерской и просветительской деятельности Николая Ивановича стала именоваться «системой ИЛЬМИНСКОГО» и приобрела признание как Русской Православной Церкви так и Российского государства, будучи узаконенной в Правилах от 26 марта 1870 года «О мерах к образованию населяющих Россию инородцев» Поволжья, Средней Азии и Сибири. После чего начался активный процесс открытия в Казанской губернии национальных, в том числе марийских. Последовательные сторонники «системы ИЛЬМИНСКОГО» - Н.НИКОЛЬСКИЙ, В.ВАСИЛЬЕВ. 

Согласно «системе ИЛЬМИНСКОГО», преподавание в народной школе (одноклассной четырехлетней) велось на 1-м отделении (2 года) исключительно на родном языке, а русский язык изучался как учебный предмет. На 2-м отделении русский становился языком преподавания. Лучшие учителя нерусских народных школ, по ИЛЬМИНСКОМУ, — люди одной национальности с учениками. От русских учителей он требовал знания родного языка учащихся, использования его в учебно-воспитательной работе. Учебники, по его мнению, должны печататься на родном для учащихся языке с использованием русской графики. Он стремился приспособить организационную структуру русских школ, формы и методы их учебной работы к национальным особенностям населения. В 1872 году Николай Иванович стал инициатором открытия иногородческой семинарии, готовившей учителей для марийских, татарских, мордовских, чувашских, удмуртских школ. Он оставался ее директором до своей кончины. При его участии открылись в 1872 году Уфимско-Оренбургская татаро-башкирская, в 1882 году Бирская марийско-чувашская, в 1883 году Орско-Оренбургская казахская учительские школы.