Моя репутация уже была «подмочена связью с этими людьми», арестованными как враги народа. Для того чтобы их реабилитация выглядела объективно оправданной, я попросил Фитина подписать документы, необходимые для возвращения в строй людей, особенно близких мне. Это оказалось дальновидным шагом: в 1946 и 1953 годах, когда меня обвиняли в том, что я способствовал освобождению своих друзей, являвшихся врагами народа, я имел возможность сослаться на подпись Фитина. В судьбе Серебрянского мое ходатайство о его восстановлении в партии в 1941 году сыграло роковую роль: в 1953 году его обвинили в том, что он избежал высшей меры наказания только благодаря заступничеству такого изменника, как я. Он умер в тюрьме на допросе у следователя Цареградского в 1956 году.
26 июня 1941 года я получил еще одно назначение на должность заместителя начальника штаба НКВД по борьбе с немецкими парашютными десантами. В 1942 году под мое начало было передано отборное подразделение десантников. Им была придана эскадрилья транспортных самолетов и бомбардировщиков дальнего действия. На протяжении всей войны мы поддерживали тесное сотрудничество с командующим авиацией дальнего действия маршалом Головановым, близким другом Эйтингона по военной академии.
Ситуация на фронте после вторжения немцев складывалась, как известно, трагически. Мощь германской танковой армады превосходила все наши предварительные данные. Масштабы поражения Красной Армии в Прибалтике, Белоруссии и на Украине ошеломляли. До августа мы предприняли несколько диверсионных операций по спасению частей Красной Армии, попавших в окружение, однако наши планы не удались: эти части оказались рассеянными и больше не могли быть базой для развертывания партизанской войны.
Затем, во взаимодействии с районными и местными партийными организациями, мы начали засылать партизанские формирования в тыл к немцам, включая в их состав опытных офицеров-разведчиков и радистов. В годы войны Особая группа — 4-е управление НКВД и ее войсковые соединения, как следует из официальных документов, выполняли ответственные задания Ставки Верховного Главнокомандования (1941—1945 годы), Штаба обороны Москвы (октябрь—декабрь 1941 года), командующего Западным фронтом (1941—1943 годы), Штаба обороны Главного Кавказского хребта (1942—1943 годы), командующего Северо-Кавказским фронтом (1942—1943 годы), командующего Закавказским фронтом (1942—1943 годы), командующего Центральным фронтом (1943 год), командующего 1-м Белорусским фронтом (1943-1944 годы).
В годы войны наше подразделение стало главным центром разведывательно-диверсионной деятельности органов Госбезопасности в тылу противника. Ему принадлежит важная роль в инициировании и развертывании массового партизанского движения в тылах фашистской армии.