После его представления дело было пересмотрено, а Ильин получил назначение на должность начальника третьего отдела Секретно-политического управления НКВД, что позволило ему добиться ареста двух важных осведомителей, снабжавших нас заведомо ложной информацией о якобы антисоветских настроениях среди ответственных работников.
Ильин вызвал осведомителей в Москву и приказал им представить подробные данные по делам двух подозреваемых. Получив их информацию, он убедился, что они за годы репрессий прекрасно научились искусству клеветы на тех, кого разрабатывали. Осведомителей-фальсификаторов арестовали и приговорили к десяти годам лагерей, а Ильин получил награду — знак «Почетный чекист». Учитывая личные контакты Ильина с такими писателями, как Алексей Толстой, и прославленными музыкантами и композиторами, его часто принимал у себя Берия. Ильин также был в дружеских отношениях с Меркуловым.
И вот в 1943 году служба Ильина в органах закончилась из-за конфликта с Абакумовым. Еще во время гражданской войны Ильин подружился с Теплинским, с которым они вместе служили в кавалерийской части. Позднее Ильин начал работать в ОГПУ, а Теплинский перешел в авиацию и сделал неплохую карьеру: в 1943 году он был генерал-майором и получил назначение на должность начальника инспекции штаба ВВС.
Неожиданно повышение Теплинского по службе затормозилось: выяснилось, что против его нового назначения возражают органы. Тогда он обратился к Ильину, пытаясь выяснить, в чем дело. Тому удалось быстро узнать: единственная причина, заставившая госбезопасность отказать Теплинскому в доверии, заключалась в его присутствии на вечеринке в Военной академии в 1936 году, до ареста Тухачевского, где он якобы позволил себе с похвалой отозваться об офицерах и генералах, вскоре павших жертвами репрессий в армии. Теплинский на свое несчастье был знаком с генералом Трухиным, перебежавшим к Власову. Ильин предостерег Теплинского, чтобы он был осторожнее в своих высказываниях и знакомствах, но свое предостережение сделал по телефону.
Абакумов тут же узнал об их разговоре и, возмущенный, потребовал от Берии, чтобы он отстранил Ильина от работы. Берия вместо этого поручил Меркулову ограничиться простым внушением, притом в дружеском тоне. К тому времени отношения между Абакумовым и Берией сильно испортились. Абакумов принял решение воспользоваться этой историей для того, чтобы скомпрометировать Берию и Меркулова. Он доложил Сталину, что комиссар госбезопасности Ильин срывает проводимую СМЕРШ оперативную проверку комсостава ВВС Красной Армии в связи с новыми назначениями.