В 50-х годах был осуществлен ряд важных мер по совершенствованию государственного аппарата. В решении этой задачи действенную роль сыграли постановление ЦК КПСС от 25 января 1954 г. «О серьезных недостатках в работе партийного и государственного аппарата» и постановление ЦК КПСС и Совета Министров СССР от 14 октября 1954 г. «О существенных недостатках в структуре министерств и ведомств СССР и мерах по улучшению работы государственного аппарата».

ЦК КПСС обязал партийные и советские органы критически рассмотреть работу партийного и государственного аппарата, решительно вскрыть имеющиеся ошибки и недостатки, ликвидировать вредную практику канцелярско-бюрократического руководства, принять меры по улучшению работы аппарата. В 1954— 1955 гг. была проведена большая и плодотворная работа по реализации указаний ЦК КПСС и Совета Министров СССР. В аппарате Совета Министров были упразднены отраслевые бюро, различные отделы и группы, дублировавшие работу министерств и Госплана: численность аппарата сократилась более чем вдвое. Были упразднены также структурные промежуточные подразделения и параллельно действовавшие хозяйственные организации и учреждения (только в 1954 г. ликвидировано около 500 главных управлений, отделов и секторов в центральном аппарате и 5600 трестов, контор, снабженческих и иных организаций). Общегосударственная и внутриведомственная систематическая отчетность сократилась в 3 раза, периодическая отчетность предприятий и учреждений — более чем в 2, отчетность колхозов — почти в 5 раз. Были расширены права министров СССР, расширен круг вопросов, которые они самостоятельно решали в подведомственных им отраслях государственного управления. Вместе с тем повышалась их ответственность за порученные участки государственной деятельности. В результате улучшения структуры управленческого аппарата к началу 1956 г. он был значительно сокращен. Из канцелярий много инженеров, техников, агрономов и других специалистов перешли на работу в различные отрасли народного хозяйства.

XX съезд КПСС одобрил проведенные меры и предложил продолжать работу по сокращению и удешевлению административно-управленческого аппарата и улучшению деятельности всех его звеньев, вести и впредь непримиримую борьбу с бюрократизмом, фактами невнимательного отношения к нуждам населения. ЦК партии и Советское правительство провели в 1956—1960 гг. крупные мероприятия по дальнейшему совершенствованию государственного аппарата, улучшению контроля за выполнением решений партии и правительства. Указом Президиума Верховного Совета СССР от 23 августа 1957 г. была образована Комиссия советского контроля Совета Министров СССР. Союзно-республиканское Министерство государственного контроля было упразднено. Стиль работы органов управления был улучшен также в процессе реализации августовского постановления ЦК КПСС 1958 г. «О серьезных недостатках в рассмотрении писем, жалоб и заявлений трудящихся». В партийных, советских и хозяйственных органах была перестроена работа с письмами трудящихся, налажен прием посетителей, систематически начали принимать население руководящие работники советских и хозяйственных органов.