1920年夏，陈独秀在上海发起成立了共产主义小组。成立之前，陈独秀多次与李大钊商讨建党的问题。他曾问李大钊新建的组织是叫社会党还是叫共产党，李大钊明确答复：就叫共产党。这年10月，北京共产主义小组也正式成立，最初的成员有李大钊、邓中夏、罗章龙、刘仁静、张国焘等，后来又发展了张太雷、高君宇等人。11月，又成立了北京社会主义青年团，李大钊亲自入团，直接领导了它的活动。为了开展革命活动，李大钊从自己每月280元的工资中提取三分之二做共产党小组的经费。
李大钊不仅领导和创建了北京共产主义小组，还帮助和支持其他地方的进步青年走上共产主义道路，毛泽东即是其中的一个。各地青年出于对李大钊这位著名的马克思主义学者的仰慕，经常上门求教，李大钊也与各地的青年团体和一些进步刊物保持着联系。周恩来等在天津成立的觉悟社就得到过李大钊的热情支持。1920年8月，觉悟社邀请少年中国学会、人道社、曙光社、青年互助团等进步团体，在北京陶然亭集会，商讨联合起来共同行动的问题。李大钊亲自出席会议，在讲话中指出各团体要有一个明确的主义，团结一致。会后，又指导五团体联合起来合组一个“改造联合”。湖北的恽代英也曾到京拜访李大钊，在今后如何传播马克思主义和开展革命活动等方面，也得到了李大钊的很多帮助。在山东、山西、陕西、四川以及内蒙古等地，李大钊都与当地的青年们通过各种办法取得联系，帮助他们学习马克思主义，撒下了共产主义的种子。
1921年7月，上海、北京、湖南、湖北、山东等地的共产主义小组的13位代表，在上海召开了中国共产党第一次代表大会。大会通过了党的第一个党纲，选举了党的中央机关，中国共产党正式诞生了。在这次大会前夕，共产国际派马林和李克诺斯基为代表，来到中国。李大钊同他们进行了交谈，并委派邓中夏陪同他们前往上海参加党的第一次代表大会。李大钊本人虽未参加这次大会，但其功绩是不可磨灭的。
中国共产党成立后，把领导工人运动作为自己的中心工作，成立了公开领导全国工人运动的劳动组合书记部。北方的工人运动也在李大钊的领导下蓬勃地开展起来。
1921年7月，北京党组织在李大钊领导下创办了我国早期的重要工人刊物《工人周刊》，启发工人的觉悟，鼓吹组织工会。周刊很快成为北方最受工人欢迎的一个刊物，被誉为“劳动者的喉舌”，“北方劳动界的言论机关”。后来，它成为劳动组合书记部的机关报，指导着全国的工人运动。
这时，李大钊领导的马克思学说研究会成为一个公开组织。1921年11月，学会在《北大日刊》登载启事，公开招收会员，得到了很大的发展。李大钊在学会组织的演讲会、专题研究及辩论会上，宣传马克思主义，阐释社会主义必然胜利，资本主义必然灭亡的真理，吸引和影响了广大的青年听众。1922年5月和11月，李大钊分别领导举行了马克思诞辰104周年纪念大会和苏俄十月革命纪念会，并发表了热情洋溢的演说。7月，少年中国学会在杭州开会，李大钊联合邓中夏等六个北京会员提出了“为革命的德谟克拉西（即民主主义）”的提案，着重批判了当时还在流行的资产阶级改良主义思想。这个提案对少年中国学会杭州大会产生了很大的影响。
李大钊清醒地认识到，知识分子与工人阶级相结合才有力量。因此较早开始在工人中做工作，使北方的工人运动具有了一定基础，尤其是在北京附近的长辛店等地，成立了组织较为严密的工会组织，并领导工人取得了反工头、反账房司事等几次斗争的胜利。李大钊充分利用长辛店的成功实例影响和教育北方各地的工人。为了配合工人运动的开展，他还大力进行理论上的宣传，写下了许多和劳动有关的文章。他非常善于利用敌人之间的矛盾，推动工人运动的迅速发展。1922年4月，李大钊亲赴洛阳与刚刚在直奉战争中获胜的军阀吴佩孚会谈，争取他发表了“保护劳工”等“四大政治主张”的通电，并趁势发动各地工人运动。不久，他又利用吴佩孚和交通系的矛盾，建议当时的直系交通总长高恩洪在每条铁路上派一个密查员，得其允许后，他又介绍何孟雄等共产党员去担任这些密查员，大大便利了革命工作的开展。在他的领导下，京汉、正太等铁路干线的工人纷纷组织起来，为北方工人运动的进一步大发展奠定了基础。
1922年7月，中共第二次代表大会在上海召开，李大钊在这次会议上当选为中央委员。会后，他受党的委托会见孙中山，“讨论建国种种问题”，以及实现国共两党合作的问题。9月，他回到北京后，立即领导北方工人展开了大规模的罢工斗争。自8月至12月，先后爆发了长辛店工人大罢工、唐山铁路工厂工人罢工、开滦五矿工人大罢工、唐山启新洋灰公司工人罢工、京绥路车务工人罢工、正太路石家庄机器厂工人罢工。1923年更爆发了声势浩大的京汉铁路全线工人的“二七大罢工”。这些罢工运动，沉重地打击了反动军阀政府，构成了中国工人运动的第一次高潮。虽然在军阀的残酷镇压之下，这些罢工先后失败，但它显示了工人阶级蕴藏着的巨大威力，大大提高了中国共产党和中国工人阶级在全国人民中的政治威信。
中共二大提出了“组织民主的联合战线”的任务。为了促成国共合作，李大钊多次与孙中山联络，给了孙中山以积极的帮助和影响。
早在1919年，李大钊就和孙中山有了接触。1922年8月，共产国际的代表马林和苏俄特命全权大使越飞来华，也是经过李大钊、林伯渠的联络才会见了孙中山。马林向孙中山提出共产党员以个人身份加入国民党和对国民党进行改组的建议。孙中山很快接受了这个建议。二大以后，李大钊受党的委托会见了孙中山。孙中山答应他“尽管一面做第三国际党员，一面加入本党帮助我”。李大钊便由孙中山亲自主盟，第一个以个人身份加入国民党。
在一连串的接触和会谈中，李大钊给了孙中山极深刻的印象，成为孙中山全家欢迎的客人。宋庆龄曾回忆道：“孙中山特别钦佩和尊敬李大钊，我们总是欢迎他到我们家来……孙中山在见到这样的客人后常常说，他认为这些人是他真正的革命同志。他知道，在斗争中他能依靠他们明确的思想和无畏的勇气。”
在李大钊等共产党人的帮助下，孙中山开始迅速转变。1923年1月，经李大钊等联络，越飞到达上海与孙中山会晤，发表了著名的《孙文越飞宣言》，这个宣言标志着孙中山联俄政策的确立。
1923年6月，中共在广州召开了第三次代表大会，正式确定了国共合作的方针。1924年1月，国民党第一次全国代表大会召开，李大钊等共产党员出席了这次大会，并发挥了重要的领导作用。李大钊担任了五个成员之一的大会主席团主席，和孙中山一起主持了整个会议。大会所设立的全部四个委员会中，他担任了其中三个委员会的委员。可见孙中山对他极为倚重。在这次大会上，李大钊当选为国民党中央执行委员。后来孙中山逝世前又被指定为国民党中央政治委员会委员。
回到北京后，李大钊担负起国民党在整个北方的领导责任，进行了一系列紧张的工作。当时国民党在北方已经没有什么组织，只有少数几个上层人士的党员。在李大钊的领导下，才又建立起北京市党部、天津市党部、直隶省党部等各级党部，后来又成立国民党在北方的最高领导机关——政治委员会，使北方的国民党得到了很大的发展，呈现出新的气象。
正当革命运动日益高涨之际，李大钊却因遭北洋军阀政府的明令通缉，而被迫出京暂避。反动军警不仅查抄他在北京的住处，还到他的老家河北乐亭追查行踪。李大钊毫不畏惧，在给夫人的信中说，敌人不过猖狂一时，“不出十年，红旗将会飘满北京，看那时的天下，竟是谁人的天下！”不久后，他受委派率领中国共产党代表团到莫斯科出席共产国际第五次代表大会。来到向往已久的革命胜地，目睹了俄国的伟大革命成就，李大钊更加坚定了取得中国革命胜利的信心。
1924年底，根据党中央的指示，中国共产党北方区执行委员会成立，由李大钊负总责。这样，李大钊成为国共两党双方在北方的领导人，为发展和壮大革命的统一战线创造了极为有利的条件。他坚持战斗在反革命势力的中心北京，努力恢复“二七”以后暂时处于低潮的工人运动，并亲自领导了北方的“国民会议运动”、“五卅运动”、“关税自主运动”、“首都革命”和“三一八运动”等多次轰轰烈烈的群众斗争。针对国民党右派破坏革命的阴谋，李大钊领导北方党组织采取了正确的斗争策略，扩大了共产党和国民党左派的力量，孤立了右派，推进了北方的革命运动。
李大钊领导的革命运动沉重打击了帝国主义和反动军阀。1924年底至1925年初的国民会议运动，直接针对段祺瑞的所谓“善后会议”，宣布要“废除一切不平等条约”，打倒军阀。“五卅运动”的矛头则直指帝国主义，以推翻帝国主义在中国的一切特权、废除一切不平等条约为斗争的主要目的。李大钊领导的关税自主运动和首都革命，以推翻段祺瑞政权和建立国民政府为目的，是中国共产党领导群众夺取政权的第一次尝试。在“三一八运动”中，李大钊亲自参加了请愿斗争，头部和双手都负了伤，并曾一度被捕。段祺瑞在血腥屠杀过后，诬指此次惨案，系李大钊等“率领暴徒数百人，手持枪棍，闯袭国务院，泼火油，抛炸弹，手枪木棍丛击军警，各军警正当防御，致互有死伤”，对李大钊可谓恨之入骨。
“三一八惨案”发生后不久，奉系、直系军阀控制了北京政府。张作霖大肆搜捕和屠杀革命党人，白色恐怖笼罩了中国北方。1926年3月，李大钊和国共两党的北方领导机关一起，迁入东交民巷苏俄大使馆西院的兵营里。在敌人的严密监视下，李大钊仍然顽强地领导着地下斗争，在“讨赤”、“驱赤”的恐怖气氛中，共产党员由三百余人发展到千人以上，国民党员也由二千余人增至四千三百余人。李大钊还联合北京各进步团体，组织了“左派联席会议”（简称“左联”），进一步巩固了革命统一战线。
奉系军阀视李大钊为眼中钉、肉中刺，必欲除之而后快。1927年4月6日，军阀当局与帝国主义秘密勾结，出动数百名宪兵、警察、特务，悍然不顾一切外交惯例和国际公法，包围、袭击了苏俄大使馆以及附近各处，李大钊不幸被捕。
在敌人的监狱中，李大钊蔑视种种残酷的刑罚，坚强不屈。在法庭之上，他“态度极从容，毫不惊慌”，“着灰布棉袍、青布马褂，俨然一共产党领袖之气概”。“自谓平素信仰共产主义，侃侃而谈，不愧为革命志士本色”。
李大钊被捕后，在社会上引起了极大的震动。学生群众、教育界的学者名流，均群起而营救。北方铁路工人组织了劫狱队，欲冒险劫狱。李大钊得知这个消息后，说“我个人为革命为党而牺牲，是光荣而应当，但已经是党的损失……我不能再要同志们来作冒险事业，而耗费革命力量，现在你们应当保存我们的力量……不要使革命力量再遭损失”。
与革命群众的呼声相反，反动势力一日不杀李大钊，就一日不得安宁。蒋介石密电张作霖，“主张将所捕党人即行处决，以免后患”。张宗昌也打电报，说李大钊为“赤党祸根”，“巨魁不除，北京终究危险”。1927年4月28日，在蒋介石发动上海“四一二”反革命政变后半个月，奉系军阀匆忙组织“军法会审”，判决对李大钊等立即处以绞刑。在绞刑架下，李大钊发表了最后一次慷慨激昂的演说，他说“不能因为你们今天绞死了我，就绞死了伟大的共产主义！我们已经培养了很多同志，如同红花的种子，撒遍各地！我们深信，共产主义在世界、在中国，必然要得到光荣的胜利！”他高呼着“中国共产党万岁”而英勇就义，时年38岁。