У роки Громадянської війни Єжов - військовий комісар ряду червоноармійських частин, де служить до 1921 року. Після закінчення Громадянської війни він їде в Туркестан на партійну роботу. У 1922 році - секретар Семипалатинського губкому, потім Казахського крайового комітету партії.
З 1927 року - на відповідальній роботі в ЦК ВКП (б). Чи не виблискуючи освітою і інтелектом, він відрізнявся сліпою вірою в Сталіна і жорсткістю характеру.
У найскладніший період життя села - під час колективізації - Єжов в 1929-1930 роки працює заступником наркома землеробства СРСР, будучи безпосередньо причетний до політики знищення селянства. У 1930-1934 роки він завідує розподільні відділом та Відділом кадрів ЦК ВКП (б), тобто реалізує на практиці все кадрові задумки Сталіна. Мабуть, успішно, так як високі посади сипалися на нього як з рогу достатку.
Єжов доклав руку і до долі найближчих друзів свого попередника: його першого помічника, старого чекіста Прокоф'єва, Лур'є, Островського, Фельдмана, барона Стейгер (довірена особа Ягоди.)
Одних він розстріляв без всяких преамбул, інших кинув до в'язниці, щоб змусити їх зіграти роль в процесі, який він готував. В цілому 325 чекістів Ягоди були розстріляні або посаджені у внутрішню в'язницю Єжов невблаганний: він абсолютно позбавлений нервів.
"Хулігани-Поножовщік в Казані настільки розперезалися, що пересування по місту громадян з настанням вечора стає небезпечним. Ряд місць громадського користування, зокрема, Ленінський сад, вулиця Баумана та інші знаходяться у владі хуліганів-бандитів. Замість арешту хуліганів практикувалося накладення штрафів, але навіть штрафи не стягувалися. безкарність злочинців породжувала політичний бандитизм. Керівництво міліції створило в апараті повну безвідповідальність і безкарність. Найважливіші ділянки роботи міліції знаходять я в стані розвалу ".
Заходи, які намічалися в наказі, цілком відповідали духу часу. Пропонувалося зняти з роботи, негайно заарештувати і передати до суду начальника Управління міліції та начальника політвідділу, а також дев'ять інших працівників, ряду співробітників були оголошені стягнення. А закінчувався наказ: "Народному комісару внутрішніх справ Татарської АРСР капітану державної безпеки т. Михайлову в двомісячний термін привести міліцію Татарської РСР в боєздатний стан і мені доповісти. Єжов". Тут весь нарком - діловий, владний, жорсткий.
Таким він виглядає і за іншими документами. Так, він дорікає в'язниці Головного управління держбезпеки (ГУГБ) НКВС СРСР за слабкий режим і оголошує абсолютно секретне "Положення" про порядок його зміцнення з метою повної ізоляції підслідних заарештованих від зовнішнього світу і від заарештованих інших камер, а також про суворе дотримання правил внутрішнього розпорядку .
Ось так. Працівники НКВД могли робити все - аж до безкарного вбивства людей або доведення їх до самогубства, але боронь Боже, якщо укладений почне якось захищати свою гідність - він відразу стає хулиганствующим елементом.
В іншому наказі, розісланому на місця з метою орієнтування і залякування оперативних працівників, Єжов звинувачує начальника особливого відділу Головного управління держбезпеки 6-ї стрілецької Орловської дивізії лейтенанта держбезпеки Ширина Б. І, в тому, що "до цих пір по контрреволюційного елементу, що знаходиться в дивізії, повного оперативного удару не нанесено ". А міра та ж - "за розвал оперативної роботи, відсутність боротьби з контрреволюцією, за зв'язок з ворогами народу - заарештувати і передати до суду".
В НКВД Московської області слідчі, застосовуючи в процесі слідства міру фізичного впливу до арештованих керівним працівникам автозаводу імені Сталіна, перетворювали їх показання про виробничі неполадки і помилки, що мали місце на заводі, в умисні шкідницькі акти. Працівники НКВД проголосили, що на заводі існує розгалужена правотроцькистського організація, хоча фактично її там не було.
У Горькому, на автозаводі, безпартійний коваль, висуваючи того ж Єжова в депутати, сказав:
"Всіх революційних подвигів тов. Єжова неможливо перерахувати. Найчудовіший подвиг Миколи Івановича - це розгром японсько-німецьких троцькістсько-бухарінських шпигунів, диверсантів, вбивць, які хотіли потопити в крові радянський народ. Їх наздогнав меч революції - вірний страж диктатури робітничого класу - НКВД , керований тов. Єжовим ".
Народним комісаром внутрішніх справ СРСР затверджено тов. Л. П. Берія ".
За свідченням А. Антонова-Овсієнка, Єжов на посаді наркома водного транспорту став непробудним п'яницею, який "на службі з'являвся не кожен день, зазвичай із запізненням. Під час нарад катав хлібні кульки або старанно конструював паперових голубів".