1921年5月5日，孙中山就任非常大总统，再揭护法旗帜，准备北伐。桂系军阀退出广东，并不甘心失败，仍威胁和骚扰广东，成为孙中山北伐的主要障碍。6月下旬，孙中山委陈炯明为讨桂军总司令，出兵讨伐陆荣廷。经3个月的攻击作战，粤军先后占领了梧州、南宁、桂林、龙州等地，陆荣廷取道越南河内逃跑，两广统一。10月，孙中山到达广西。12月，在桂林组织大本营，计划组织3个军的兵力，北向中原。
1922年初，孙中山为了集中力量打击最主要的敌人，遂与奉、皖结成反直三角同盟，并将滇、桂各军集中韶关，以韶关为大本营，准备取道江西北伐。5月6日，孙中山在韶关誓师。从5月中旬到下旬，北伐军势如破竹，先后占领新城、崇义、信丰、龙南等县。6月5日，北伐军占领赣州；8日，赣督陈光远向北洋军阀政府辞职。北伐军乘胜前进，连占万安、大和，直逼吉安。
在北伐军胜利进军中，广州发生了陈炯明叛乱。陈炯明在护国运动中参加反袁斗争，组织粤军，自任总司令，第一次护法中任援闽粤军总司令。在两次粤桂战争中，野心勃勃，企图称霸广东，并与直系勾结，对孙中山的革命事业处处牵制。由于后方不稳，孙中山临时决定在桂各军反粤，4月19日，孙中山下令罢免陈炯明粤军总司令及广东省长及内务总长职，保留陆军总长职务，23日，孙中山回到广州，坐镇指挥北伐。为稳定广东局势，孙中山两次派人赴惠州迎接陈炯明回省“共商北伐大计”，均遭陈拒绝。在暗中，陈却同陈光远密电往来，相约夹攻北伐军。5月中旬，陈炯明部下叶举率部从广西回粤，以“清君侧”为名，进抵广州。
6月12日，孙中山召集广州报界举行谈话会，揭露陈炯明阴谋，勒令叶举部撤离广州。叶举却在陈炯明的指示下，于6月15日，公然发出通电，要求孙中山下野，并派兵包围总统府，孙中山在枪林弹雨中出走，登上泊于白鹅潭之楚豫舰，随后，宋庆龄也脱险，于次日赴黄埔与孙中山会合，转登永丰舰。孙中山在军舰上指挥海军与叛军战斗，并电令北伐军回师靖难。6月下旬，北伐军分两路回师，在韶关、翁源一带为陈军所阻，无法及时救援。8月9日，孙中山离开广州回上海，第二次护法运动又失败了。
陈炯明叛乱，对孙中山是一个很大打击。依靠一部分军阀去反对另一部分军阀，以达到恢复“临时约法”的目的，这是他失败的重要原因之一；另一方面，在五四时期，在中国人民反帝反封建的怒潮中，以恢复约法相号召，显然已经不能适应斗争的需要了，因而护法运动不能得到群众的支持，其失败是不可避免的。孙中山决心寻求新的力量、新的途径，继续奋斗。
与此同时，中国共产党人从京汉铁路大罢工失败的事实中看到：在半殖民地半封建的中国，工人阶级虽然有坚强的革命性，但人数毕竟比较少，如果不团结一切可以团结的力量，结成最广泛的统一战线，党就不可能把中国革命引向胜利。
1922年，中国共产党发表对时局的主张，赞扬孙中山坚持民主革命的精神。同时向他说明，革命必须依靠人民的力量，并指出他依靠军阀打军阀的错误，也指出国民党组织混乱、纲领不清、作风不正的毛病。中国共产党派李大钊等帮助孙中山，苏联也向孙中山建议，要他建立联合工农群众的政党和革命武装。
孙中山早就对俄国十月革命和中国五四运动表示赞赏，现在见到共产党人这样诚恳热情，十分受感动。他和李大钊经常促膝谈心，废寝忘食。经过深思熟虑，他接受了中国共产党的政治主张和苏联的建议，欢迎两党合作，同时也认识到，要取得革命的成功，必须依靠广大人民，特别是工农群众，在国际上也要有像苏俄那样真心支持中国革命的国家的援助。孙中山决心改组国民党。
1922年秋，孙中山在上海召集有共产党员参加的会议，研究改组国民党的计划，起草改组国民党的宣言、党纲和党章。1923年元旦，他发表了《中国国民党宣言》，明确表示：革命事业“由民众发之，亦由民众成立”。
这年1月，占据广州的陈炯明被滇军和桂军中一部分拥护革命的队伍赶出广州。孙中山重抵广州，建立了大元帅府。许多共产党人也云集这座南方重镇，广东成了革命的大本营。
6月12日至20日，中国共产党在广州召开党的第三次全国代表大会，对国共合作的方针和办法作出了正式决定。党的三大正确地估计了孙中山的革命立场和国民党进行改组的可能性，决定共产党员以个人身份加入国民党，用这种形式实现国共合作。当孙中山夫人宋庆龄问，“为什么需要共产党加入国民党”时，孙中山回答说：“国民党正在堕落中死亡，因此要救活它就需要新血液。”
10月初，应孙中山的邀请，苏联代表鲍罗廷到达广州，苏联政府还给予广州政府军事和物资援助。不久后，孙中山在给蒋介石的信中斩钉截铁地说：“我党今后之革命，非以俄为师，断无成就。”国民党改组很快进入实行阶段。到了11月，孙中山宣布了改组国民党的决定。他勇敢地自我批评说：“看一看以往十年的实际成绩，我不能不认为是失败的。国民党想要取得成功，必须改组，要有鲜明的主义，切实的政策，要争取民众的支持；在组织上要去恶留良，克服腐败现象。”于是，国民党开始重新登记党员，整顿各级组织，建立讲习所训练干部。李大钊等共产党员参加了这项工作。
1924年1月20日至30日，国民党第一次全国代表大会在广州召开。165名代表中，共产党员占了14%。孙中山担任大会主席，李大钊被孙中山指定为大会主席团成员，谭平山（共产党员）代表国民党临时中央执行委员会向大会作了工作报告。毛泽东、林伯渠、瞿秋白等共产党员也参加了大会的领导工作。
孙中山在会上耐心地向代表们重新解释了他的三民主义。他说，他的“新三民主义”（民族主义、民权主义和民生主义）和旧的三民主义不一样的。他的民族主义是反对帝国主义求得整个中国的解放，而国内各民族应一律平等。他的民权主义主张凡革命的个人和团体，都享有自由和权利。他的民生主义，除了“平均地权”以外，又增加了“节制资本”。为了实行新三民主义，孙中山提出了联俄、联共、扶助农工三大政策。这是孙中山新三民主义的最重要标志，也是他一生中伟大的转变。
经过选举，成立了中国国民党中央执行委员会，包括胡汉民、汪精卫、廖仲恺、于右任等老国民党员。共产党员李大钊、谭平山、毛泽东、林祖涵、瞿秋白等10人当选为中央执行委员或候补执行委员，约占委员总数的1/4。
大会确定的新三民主义，其基本原则同中国共产党在民主革命阶段的政治纲领的若干原则基本一致，从而成为国共两党合作的政治基础。国民党第一次全国代表大会的召开，标志着国共两党和各革命阶级的统一战线的正式建立。
孙中山改组了国民党，国共合作得以实现。此后，以广州为中心，汇集了全国的革命力量，很快开创了一个反对帝国主义和封建军阀的革命新局面。中国共产党党员加入国民党后，在全各地积极创立和发展国民党的组织。自京汉铁路大罢工失败后一度消沉的工人运动，在国共合作的促进下，主要是在共产党人的领导下，逐渐恢复和发展。特别是在广东革命政府统辖的地区内，工农运动取得合法存在的权利，更有了突飞猛进的发展。
自从和中国共产党以及苏联有了联系后，孙中山便决定建立一支革命军队。本来，孙中山手下也有不少军队，但这些都是旧军队，不听指挥。孙中山在长时期内依靠旧军队从事革命活动而屡遭失败，这给他留下痛苦的教训。还有些军事骗子甚至来骗枪骗钱，孙中山有许多这样的教训。尤其是经历过陈炯明叛变后，孙中山更是决心着手建立一支革命的武装力量。
在共产党人建议下，国民党一大决定创办一所军官学校。
1924年5月，设在广州附近的黄埔岛上的“中国国民党陆军军官学校”开学，习惯上称“黄埔军校”。军校第一期学生于1924年5月入学，学员500名，至1926年北伐战争前，军校招收学生5期，共约7400人。孙中山亲自兼任总理，任命曾派往苏联考察的粤军参谋长蒋介石为校长，著名的国民党左派廖仲恺为党代表。11月，刚从欧洲归国不久的中共广东区委委员长周恩来担任黄埔军校政治部主任。第一期学生中共产党员和共青团员有56人，占学生总数的1/10。
黄埔军校的最大特点是把政治教育提到和军事训练同等重要的地位，注重培养学生的爱国思想和革命精神，这是它同一切旧式军校根本不同的地方。毛泽东后来说：那时的国民党军队“有一种新气象，官兵之间和军民之间大体上是团结的，奋勇向前的革命精神充满了军队。那时军队设立了党代表和政治部，这种制度是中国历史上没有的，靠了这种制度使军队面目一新。”
黄埔军校培养的军事、政治工作干部，对于建立国民革命军，统一广东革命根据地和北伐战争，起了重大作用。
