19 апреля 1943 года секретным Постановлением СНК СССР № 415—138сс на базе Управления особых отделов (УОО) НКВД СССР были созданы:
Главное управление контрразведки «Смерш» Народного комиссариата обороны СССР, начальник — комиссар ГБ 2 ранга В. С. Абакумов.
Управление контрразведки «Смерш» Народного комиссариата Военно-Морского флота СССР, начальник — комиссар ГБ П. А. Гладков.
15 мая 1943 года, в соответствии с упомянутым постановлением СНК, для агентурно-оперативного обслуживания пограничных и внутренних войск, милиции и других вооружённых формирований Наркомата внутренних дел, приказом НКВД СССР № 00856 был создан:
Отдел контрразведки (ОКР) «Смерш» НКВД СССР, начальник — комиссар ГБ С. П. Юхимович.
Эти три структуры являлись независимыми контрразведывательными подразделениями и подчинялись только руководству данных ведомств. Главное управление контрразведки «Смерш» в НКО подчинялось напрямую наркому обороны Сталину, управление контрразведки «Смерш» НКВМФ подчинялось наркому флота Кузнецову, отдел контрразведки «Смерш» в Наркомате внутренних дел подчинялся непосредственно наркому Берии.