1921年，党的一大召开时，鉴于党内党员少等特点，中央只设由3人组成的中央局。党的二大、三大、四大，虽然选举了中央执行委员会，但中央机构仍是中央局。

1927年4月27日，中国共产党第五次全国代表大会召开。此时，全国地方普遍成立区、地执委会，工农运动空前发展，北伐大革命轰轰烈烈，党员人数也由1925年1月中共四大时的994人激增至57967人。中国共产党已经成为一个大党，中央机关仅有中央局的状况已不足以有效领导全党，因此急需“使中央成为强有力的中央”。中央政治局应运而生。

1927年5月9日，中共五大闭幕，大会选出了31名中央委员和14名候补中央委员组成的中国共产党第五届中央委员会。5月10日，党的五届一中全会召开，选举陈独秀、蔡和森、李维汉、瞿秋白、张国焘、谭平山、李立三、周恩来为中央政治局委员，苏兆征、张太雷等为候补委员，选举陈独秀、蔡和森、张国焘（后增补瞿秋白、谭平山）组成中央政治局常务委员会，陈独秀任总书记。这标志着中共中央政治局正式设立。

1927年6月的《中国共产党第三次修正章程决案》，在党的中央机关一章对中央政治局做出了规定，主要内容是：

第一，中央政治局由中央委员会选举产生，中央政治局的成员包括中央委员会总书记、若干名正式委员和候补委员。政治局候补委员参加政治局会议时，只有发言权而无表决权，正式政治局委员离职时候补政治局委员依次递补。

第二，中央政治局的主要职责是指导全国一切政治工作。

第三，政治局常务委员会由中央政治局互推若干人组成，主要职责是处理党的日常事务。从党的五届一中全会选举来看，党的总书记必须从中央政治局常委中产生。

这项规定第一次对中央领导机构及工作机关的组成、职责、相互关系等做出了明确规定，并将决策机关（中央政治局）与负责日常工作的机关（中央政治局常委会）分为两个机构，健全了党的中央机关，有利于增强党的集体领导，为以后党的中央机关的组织建设奠定了基础。