В 1923 году был создан единый общесоюзный орган — Единое государственное политическое управление (ОГПУ) при СНК СССР. В систему ее органов входили ОГПУ СССР, ГПУ союзных республик, политотделы при исполкомах Советов и особые отделы в Красной Армии и на транспорте. В 1932 году при ОГПУ было создано Главное управление полиции, тем самым органы охраны общественного порядка были включены в систему органов государственной безопасности. Формирование мощного репрессивного аппарата завершилось созданием объединенного Народного комиссариата — НКВД СССР. Постановлением ЦИК СССР от 10 июля 1934 г. в его состав было включено бывшее ОГПУ, преобразованное в Главное управление Государственная безопасность (ГУГБ), Главное управление милиции (ГУМ), Главное управление исправительно-трудовых лагерей и трудовых поселений (ГУЛАГ). В подчинении НКВД находились также пограничные и внутренние войска, пожарная охрана, отделы гражданского состояния. НКВД СССР возглавил Г. Ягода.