Ильина избивали, лишали сна, однако он не только отказывался признать себя виновным, но даже не подписывал протоколы допросов. Для оформления дела их необходимо было предъявить Сталину, чтобы он решил дальнейшую судьбу подследственного, и Абакумов боялся предстать перед Сталиным без убедительного обвинительного заключения. Хотя Абакумов не смог доказать вину Ильина, тот по-прежнему оставался в тюрьме.
На допросы Ильина вызывали в течение четырех лет – с 1943 по 1947 год. Его держали в одиночной камере и периодически избивали, чтобы получить признания. Через четыре года на него махнули рукой, но еще целых пять лет он оставался в тюрьме, где в разное время его сокамерниками были министр авиационной промышленности Шахурин, маршал авиации Новиков и министр иностранных дел Румынии. Ильин никому не говорил, что он офицер-чекист. По его версии, он работал в техническом отделе киностудии документальных фильмов. Понимая, что является жертвой борьбы за власть, Ильин дал себе слово ни в чем не признаваться и лучше умереть, чем запятнать свою честь. Ему удавалось даже сохранять чувство юмора. Однажды он спросил у своего следователя, проводившего допрос:
– А что означает орденская ленточка у вас на груди?
Офицер ответил, что это орден Ленина Ильин. Тогда он заметил:
– Вот какая мне оказана честь – дело поручено человеку, награжденному орденом Ленина. Значит, мое дело очень важное!
В июле 1951 года Ильин был переведен в Матросскую тишину и помещен в специальный блок тюрьмы ЦК партии. Находившимися там подследственными занимался Комитет партийного контроля, который расследовал дела членов ЦК и офицеров госбезопасности. Начальник тюрьмы предупредил его о серьезных последствиях, если он не признает свою вину перед партией. Новый следователь, появившийся на очередном допросе в форме генерал-майора юстиции, был заместитель военного прокурора Советского Союза Китаев. К безмерному удивлению Ильина, Китаев потребовал от него показаний о предательской деятельности Абакумова, в ответ Ильин попросил представить доказательства, что это не провокация. Охранник вывел его в коридор и подтолкнул к глазку камеры, где сидел заклятый враг Ильина Абакумов."
"Тем не менее, Ильин отказался свидетельствовать против Абакумова, дальновидно рассудив, что Абакумов в свое время обо всем докладывал Сталину, и если он, Ильин, сейчас расскажет о сфабрикованных Абакумовым делах, то его могут обвинить в содействии этим преступлениям. Ильин дал показания, что в своей работе после 1933 года не имел с Абакумовым никаких контактов, лишь изредка встречал его на
Лубянке, а также во время инспекционной поездки в Ростов в 1938 году.