1917年俄国十月革命胜利，共产主义运动震动了世界，中国也受到强烈冲击。特别是在五四运动后，马克思主义得到更加广泛的传播，研究和传播马克思主义和俄国十月社会主义革命的经验成为潮流，许多革命社团和进步刊物如雨后春笋般地涌现出来，一批具有初步共产主义思想的先进知识分子应运而生，当时最负盛名的是“南陈北李”。
陈独秀是安徽怀宁人，李大钊是河北乐亭人，因安徽在河北的南面，故被称为“南陈北李”。他们撰写文章，创办刊物，抨击时政，扩大了马克思主义在中国的传播。
1920年3月，共产国际派魏金斯基来中国，认识了李大钊和陈独秀，真诚地交换了意见。在共产国际的帮助下，各地纷纷建立了共产主义小组，中国革命的曙光就要出现了。1920年8月，陈独秀、李达、李汉俊等在上海建立了中国第一个共产主义小组。随后，各地建立了一批党的早期组织：李大钊、张国焘等在北京；董必武、陈潭秋等在武汉；毛泽东、何叔衡等在长沙；王烬美、邓恩铭等在济南；陈公博等在广州；周佛海等在日本；周恩来等在法国巴黎先后建立了共产主义小组。
1921年6月3日，共产国际首任驻华代表马林乘坐“阿切拉号”轮船到上海，不久，尼可尔斯基也到上海，他们很快与李达、李汉俊等人建立了联系。在分析了中国革命的形势以后，他们建议召开党的代表大会，正式成立党的组织。
1921年7月23日，中国共产党第一次全国代表大会在上海法租界贝勒路树德里三号（现兴业路七十六号，李汉俊哥哥李书城的寓所。李书城曾任黄兴的参谋长，是国民党的头面人物，利用这种社会关系为党的活动做掩蔽是很有必要的）开幕，出席大会的代表共十三人，他们是上海代表李达、李汉俊，北京的张国焘、刘仁静，湖南的毛泽东、何叔衡，湖北的董必武、陈潭秋，山东的王烬美、邓恩铭，广东的陈公博及日本的中国留学生代表周佛海，陈独秀、李大钊因故没有参加。会议由张国焘主持，毛泽东与周佛海任记录。23日到30日，前后八天时间，会议进行得较顺利，然而，一个突发事件使后来的会议被迫中断。
7月30日晚八点多钟，会议开始不久，一名穿灰色长衫的中年男子突然闯入会场，朝着室内的人环视一周。陌生人的出现引起了大家的警觉，当人们询问这个不速之客时，他含含糊糊地说：“我找联社的王主席。”后又说：“对不起，找错了地方。”然后急忙退了出去。李汉俊寓所附近确有个“联社”，但此组织没有姓王的人，也没设主席，这更引起了大家的怀疑。具有秘密工作经验的马林当机立断地说：“一定是包打听，我建议会议立即停止，大家分别离开。”在场的人先后离去，只剩陈公博、李汉俊两人。
果然，十余分钟后，法租界巡捕便包围了会场，闯进室内，监视陈、李两人的行动，并进行搜查，发现了一些介绍和宣传社会主义的书籍，但这没使他们产生怀疑。当时的党纲就放在抽屉里，巡警们看它是一张薄纸，又被改得一塌糊涂，认为是一张废纸，连看都不看。
“你们开什么会？”巡捕用法语问李汉俊。
“没有开会，是我请北京大学几位教授学生，来此商谈编辑新时代丛刊问题。”李汉俊说。
“为什么家里藏有社会主义书籍？”
“我是教师兼商务印书馆的编辑，这些书是作为研究参考用的。”
“有两个外国人是什么身份，来这里干什么？”
“他们是英国人，北大的外籍教授，暑假来上海谈学术问题。”
巡捕们又问陈公博，陈公博用英语回答说：“我是广东法专的教授，这次暑假，是来上海玩的。”巡捕们找不到证据，只好离去。
为了使代表大会继续开下去，只好转移会址，代表们分两批离开上海去嘉兴。因考虑马林、尼可尔斯基出现在嘉兴易引人注意，陈公博因害怕，携妻子李励庄到了杭州，从容地“游西湖，逛灵隐”，所以他们三人没去。
7月31日上午十时左右，代表们到达了嘉兴，他们租了一条游船。为了会议的安全，代表们带着乐器、麻将牌，船的中舱桌上还摆着酒菜，以游客身份作掩护。这天，小雨连绵不断，湖上游人稀少，四周一片寂静，清风徐来，水波荡漾。大会讨论通过了中共的纲领等决议，选举了党的中央机构，由陈独秀、李达、张国焘三人组成中央局，陈独秀为中央局书记，李达为宣传主任，张国焘任组织主任，下午六时左右，大会胜利闭幕。
中共的成立，是中国历史上一件开天辟地的大事。从此，在中国出现了一个完全新式的，以共产主义为奋斗目标，以马克思列宁主义为行动指南的统一的工人阶级政党。它改变了中国革命方向，加速了革命胜利进程，毛泽东说：“自从有了中国共产党，中国革命的面貌焕然一新。”
