На заседании Оргбюро от 20 октября 1920 г. был рассмотрен вопрос о Секретно-оперативном отделе Секретариата ЦК РКП(б) на котором постановили: «а) Секретно-оперативный подотдел секретно-директивной части преобразовать в самостоятельный отдел, б) Заведующим секретно-оперативным отделом назначить т. Г. И. Бокия». В фондах ЦК РКП(б) документов, обозначающих функции и назначение данных подразделений, не обнаружилось.
В приказах Управления делами Секретариата ЦК за первую половину июля 1921 г. упоминается: в первом случае — секретно-директивная часть в административном подотделе Секретного отдела, а во втором случае — Секретный отдел с его частями (шифрование, регистратура, общая канцелярия, экспедиция, учет личного состава). Позже, в приказе от 16 августа 1921 года по Управлению делами, дается распоряжение с 15 августа 1921 г. упразднить административную часть Секретного отдела, а все личные дела сотрудников передать в общую канцелярию Секретного отдела. Общую канцелярию создали из подотделов: архивного и исполнительного со столами: личного состава и приказов. Приказом от 3 марта 1921 г. утверждалось Положение об общей канцелярии Секретного отдела. В Положении указывалось, что общая канцелярия составляет часть Секретного отдела, которая состояла из четырех частей: исполнительной, регистрационной, архивной, экспедиционной. Исполнительная часть, в свою очередь, разделялась на столы: приказный, личного состава, текущей переписки. Регистрационная часть делилась на столы: входящей почты, карточное бюро входящей почты, исходящей почты, карточное бюро исходящей почты. Наряду с этим, существовала также архивная и экспедиционная часть. По постановлению Оргбюро Секретариата от 17 сентября 1921 г. Шифрбюро также передавалось в общее бюро Секретариата. Общая канцелярия Секретного отдела ведала приказами. Эти приказы издавало Управление делами ЦК, которые шли за подписями Управляющего делами И. К. Ксенофонтова или
А. А. Андреева, который был заведующим административной частью, а после ее упразднения — помощником заведующего общей канцелярией.
В документах ЦК имеется приказ по Управлению делами от 15 августа 1921 г. в котором объявляется, что в целях улучшения работы аппарата Управления делами Секретариата ЦК все заведующие отделами, подотделами и столами должны ежедневно отчитываться перед помощниками Управляющего делами. Приказ обязывал являться с докладом за прошедший день работы к помощнику Управляющего делами Н. Л. Мещерякову следующих должностных лиц: секретаря Политбюро, секретаря Оргбюро, заведующего Шифрбюро, заведующего личным столом, заведующего исполнительной частью, заведующего экспедицией, заведующего архивом, заведующего административной частью (была упразднена 15 августа 1921 года), заведующего общей канцелярией и т. д. Отсюда можно предположить, что секретари Политбюро и Оргбюро со своими помощниками входили в Секретный отдел, как в него входило, например, Шифрбюро, и что Секретный отдел являлся частью Управления делами Секретариата ЦК. Также можно сделать вывод, что Управляющий делами Секретариата ЦК РКП(б) в 1920 г. руководил исполнительной и технической работой таких ответственных участков аппарата ЦК, как Секретариаты Политбюро, Оргбюро, Шифрбюро и других частей Секретного отдела.
Из всего этого следует, до сентября 1921 года общая канцелярия Секретного отдела и, таким образом, секретное делопроизводство ЦК, были в ведении Управления делами. Согласно постановлению Оргбюро (протокол заседания Оргбюро № 68) и приказа Управления делами № 85 от 19 сентября 1921 г. канцелярии Политбюро, Оргбюро, Шифрбюро выделяются из Секретариата, и на их базе организовывается Бюро Секретариата. Этот приказ опять же подтверждает предположение о том, что Секретари Политбюро, Оргбюро, также как и Шифрбюро, входили ранее в Секретный отдел. Также из документов можно заключить, что на тот момент Секретный отдел входил в состав Управления делами и, наконец, из приказа № 85 вытекает, что Секретариат Управления делами и Секретный отдел это, возможно, один и тот же отдел или имел два названия.
Таким образом, можно констатировать, что Секретный отдел возник, примерно, в 1920 году как часть Управления делами Секретариата ЦК. В состав Секретного отдела входили секретари Политбюро, Оргбюро и Управления делами, Шифрбюро, Общая канцелярия с ее частями. По всей видимости, наряду с этим, некоторое время, (с 20 октября 1920 года) существовал и самостоятельный Секретно-оперативный отдел, функции которого не выяснены. Функции Секретного отдела, в основном, заключались в регистрации всех секретных документов и ведении секретного делопроизводства (корреспонденция, протоколы, переписка и т. д.). Секретный отдел также готовил материалы к заседаниям Политбюро, Оргбюро, Секретариата ЦК, осуществлял шифровку и передачу документов по закрытым техническим каналам, а также (до образования Бюро Секретариата) вел учет личного состава и регистрацию входящих и исходящих документов всего аппарата ЦК, а также вел делопроизводство административной части Управления делами.
Конец Гражданской войны, экономический и политический кризис, обострившийся вместе, с исчерпавшей себя, политикой «военного коммунизма» и, в связи с этим, переход партии в 1921 году к принятой на X съезде новой экономической политике, потребовал усиления политической и организационной работы партийных структур. Технический аппарат Политбюро, Оргбюро, и Секретариата ЦК в период «военного коммунизма» усложнился, стал крупнее, а его функции становились громоздкими и сложными. В связи с этим, необходимо было реорганизовать аппарат ЦК и отделить его от регистратуры и других мелких звеньев канцелярской работы.