В связи с этим необходимо было принимать меры по созданию определенных структур по координации и ведения работ по защите информации в масштабах всей страны. Так, постановлением Малого Совнаркома 5 мая 1921 года была создана специальная (наряду с другими функциями) криптографическая служба — Специальный отдел ВЧК. Это подразделение хотя и входило в структуру ВЧК, но было фактически автономным и не подчинялось руководству госбезопасности, а находилось в ведении ЦК партии. Руководителем Специального отдела был назначен Г. И. Бокий, пользующийся большим авторитетом и влиянием, как в ВЧК-ОГПУ, так и в ЦК партии. Ранее в 1919 году Ф. Э. Дзержинский пригласил его на работу во главе питерского ЧК, затем 20 октября 1920 года постановлением ЦК он был назначен заведующим Секретно-оперативным отделом ЦК. Специальный отдел составлял шифры для государственных и партийных структур внутри и вне страны. Работа Специального отдела началась с детального изучения архивов шифровальных и дешифровальных служб царской России и изучения методических пособий. Особое внимание уделялось также подбору и обучению новых кадров шифрработников. Так, на базе старых оставшихся специалистов велось обучение новых сотрудников, создавались курсы шифровальщиков, куда набирали способных к этому делу и вообще образованных людей. На данных курсах проходили обучение и шифровальщики ЦК и местных партийных органов. Хотя отделом и организовывались учебные курсы, все-таки большой проблемой были относительно невысокий уровень грамотности и общей подготовки сотрудников и, в связи с этим, малочисленность пригодного для данной работы, личного состава. Особой проблемой было низкий уровень используемой техники и оборудования. Шифровальщики всех учреждений и ведомств подчинялись непосредственно Специальному отделу. В аппарате ЦК и местных комитетов также создавались шифровальные органы. Все криптографические службы партии являлись секретными подразделениями. Скорее всего, первым таким подразделением был Секретно-оперативный отдел, руководителем которого в 1920 году и был назначен Г. И. Бокий
На основании приказа Управляющего делами Секретариата ЦК РКП(б) № 2 от 2 августа 1920 года создается Шифрбюро Секретариата ЦК РКП. Шифрбюро создавалось для ведения зашифрованной секретной переписки с органами и отдельными ответственными сотрудниками РКП(б), ЦК коммунистических зарубежных партий, Исполкомом Коминтерна, с государственными ведомствами, имевшими шифросвязь. Шифрбюро изготовляло, хранило, рассылало и вело учет шифров и инструкций по пользованию ими для партийных организаций, вело методическую и инструкторскую работу, зашифровывало и расшифровывало поступающую в Секретариат ЦК корреспонденцию, выдавало справки по содержанию информации строго определенным лицам и органам. Шифрбюро, во главе с заведующим, по-началу, входило в состав Секретного отдела Управления делами Секретариата ЦК. В состав бюро наряду с заведующим входили: заместитель, делопроизводитель 1-го разряда, регистратор, машинистка, два шифровальщика, т. е. всего 7 человек и курьер-посыльный. Первым заведующим Шифрбюро был назначен М. М. Чугунов. На работу в Шифрбюро принимались только по партийной рекомендации члены партии со стажем не менее трех лет, по возможности знакомых с криптографией. Работа в Шифрбюро велась круглосуточно с посменным дежурством.
В Секретном отделе ЦК, до 1921 года, входившем в Управление делами, было Шифрбюро, которое в связи с преобразованием Секретного отдела по постановлению Оргбюро 17 сентября 1921 года передавалось в общее Бюро Секретариата. По приказу по Управлению делами № 85 19 сентября 1921 года, канцелярии Политбюро, Оргбюро и Шифрбюро выделяются из Секретариата. По положению о Бюро Секретариата в структуру технического аппарата, в приемную Секретариата, входило Шифротделение. Через два года, по штатному расписанию, утвержденному Секретариатом ЦК РКП(б) 22 ноября 1922 года, в структуру Бюро Секретариата, входило Шифрбюро со штатом 6 человек (заведующий, заместитель, делопроизводитель, машинистка и два шифровальщика). В штатах Секретариата ЦК, утвержденных 29 августа 1924 года, Шифрбюро состояло из пяти человек: заведующий, заместитель заведующего, составитель шифров, два шифровальщика. Следует отметить, что заведующий Шифрбюро и шифровальщики являлись секретными сотрудниками Бюро Секретариата, работа которых по нагрузке приравнивалась к массовой партийной работе. В 1925 году, к примеру, в список ответственных сотрудников ЦК данной категории, от Шифрбюро входили два человека: заведующий М. М. Чугунов и составитель шифров С. Ф. Чистяков. В 1929 году, в целях конспирации, вместо наименований частей Секретного отдела, по предложению заведующего Секретным отделом И. П. Товстухи, вводились сектора. Всего было создано семь секторов. Шифроделопроизводством занимался IV сектор. По подобию ЦК, в партийных комитетах на местах также создавались сектора. В парткомах также предполагалось наличие шифрработников, которые входили в штат особых (секретных) секторов обкомов, но которые были заняты исключительно шифрработой.
ЦК создавало информационную сеть для передачи секретных сообщений между партийными органами как по вертикали, так и по горизонтали. Эта работа осуществлялась под руководством и контролем секретных подразделений парткомов, а со стороны компетентных органов — Специальным отделом в центре и отделами государственной безопасности на местах. Так, к примеру, начальник Специального отдела при ОГПУ Г. И. Бокий, секретным циркулярным письмом от 27 ноября 1922 года, направленным всем начальникам и заведующим центральными шифрорганами, а также заведующему Шифрбюро ЦК РКП(б), после присоединения Дальневосточной республики писал: «Ввиду советизации Дальневосточной республики и ее объединение с РСФСР, Спецотдел при ГПУ предлагает Вам принять срочные меры и налаживания шифрработы в учреждениях по Вашему ведомству, расположенных на территории бывшего ДВР». В результате, шифрсвязь с Дальбюро была налажена, но в докладе 29 ноября 1922 года заведующего Шифрбюро С. Ф. Чечулина заведующему Бюро Секретариата ЦК А. М. Назаретяну отмечалось, что: «В получаемых шифровках от Дальбюро ЦК РКП(б) при расшифровании обнаруживаются значительные и не существующие правила пользования шифрами, благодаря чему происходит большая задержка в расшифровании их депеш, трата времени и загромождении телеграфа запросами о повторении. На основании изложенного, а также согласно прилагаемого при сем циркуляра Спецотдела при ГПУ за № 92531 считаю необходимым поехать самому или послать тов. Рониса для обследования постановки шифроделопроизводства в Дальбюро и установлении шифрсвязи между Бюро и его обкомами». В результате на заседании Секретариата 7 декабря 1922 года постановили: «Предложить Спецотделу ГПУ командировать в ДВО своего представителя для обследования и постановки шифроделопроизводства в советских и партийных органах, в том числе и в Дальбюро ЦК РКП».