在中国最早酝酿建立无产阶级政党的是陈独秀和李大钊。1920年，他们相约在北京和上海建党，得到了共产国际代表维金斯基的帮助。1920年8月，陈独秀等在上海成立了中国第一个共产主义小组。他们将《新青年》改为机关刊物，系统地宣传马克思主义；又创办《共产党》月刊，介绍有关共产党的知识。上海小组是中国共产党的发起组，在它的帮助下，李大钊等在北京，董必武、毛泽东等在湖南相继建立了共产主义小组。赵世炎等在法国，周佛海等在日本，也成立了共产党小组。各地共产主义小组建立后，通过创办刊物、开办劳动补习学校和帮助建立工会等方式，加强对工人群众的宣传和组织，进一步促进了马克思主义与中国工人运动的结合。
1921年7月23日，中国共产党第一次全国代表大会在上海举行。出席会议的代表一共13人：李达、张国焘、毛泽东、董必武、陈潭秋、李汉俊、刘仁静、何叔衡、王尽美、邓恩铭、陈公博、周佛海、包惠僧（陈独秀委派）等13人，他们代表全国50多名党员。共产国际代表马林等也列席了会议。党的主要创始人李大钊、陈独秀都因公务繁忙未能参加大会。会上先由共产国际代表讲话，他们阐述共产国际的使命和中国共产党任务，建议要特别重视开展工人运动，建立工会组织，并向中共“一大”表示祝贺。张国焘主持会议，提出大会的议题是制定党的纲领、工作计划和选举中央机构。大会进行到7月30日晚上时，一个穿灰布长衫的中年男子突然闯入会场打断了会议。与会人员立即撤离会场。10分钟后，一个法国巡捕带着两个中国侦探、两个法国侦探、一个法国兵、三个翻译来到会场大肆搜查。为躲避暗探和巡捕，最后一天的会议改在浙江嘉兴南湖一条游船上举行。中共一大的中心议题是建立中国共产党，通过了中国共产党党纲，确定党的名称为中国共产党，并规定党的奋斗目标是：领导无产阶级的革命军队推翻资产阶级政权，建立无产阶级专政；消灭资本家私有制，没收一切生产资料归社会所有，直至消灭阶级差别。党纲规定了民主集中制的组织原则、党的纪律以及吸收党员的条件等。大会确定党成立后的中心任务是领导工人阶级，组织工人运动。大会选举产生了由陈独秀、张国焘、李达三人组成的中央局作为领导机构，陈独秀以其在新文化运动中的崇高威望和为建党所做的卓越贡献，被选为中共中央局第一任书记。张国焘被选为组织主任。李达被选为宣传主任。
中国共产党第一次全国代表大会的召开，正式宣告了中国共产党的成立。从此，在中国出现了一个完全新式的、以马克思主义为行动指南的、以共产主义为奋斗目标的无产阶级政党。中国共产党的成立，是中国历史上开天辟地的大事。灾难深重的中国人民终于找到了革命的组织者和领导者，中国革命的面貌焕然一新。