中华民国临时政府的成立，由来已久。
武昌起义后，可以说，黎元洪和他的湖北都督府从来就没想过，在战争之外，还有跟朝廷和平谈判的可能。当收到老朋友刘承恩两次代表袁世凯要求和谈的信后，他都置之不理，直到看到袁世凯的亲笔信才接受了和谈的要求。既然要跟袁世凯代表的朝廷方面和谈，就不能仅仅以武昌都督府的名义来进行。于是，1911年11月9日，黎元洪一面给袁世凯回信，一面以首义都督的身份发出通电，倡议已独立省份各派代表来武昌讨论组织临时政府。但是，令黎元洪没有想到的是，他的倡议通电仅仅发出去两天，在上海英租界的一栋小洋房里，张謇、赵凤昌、雷奋、杨廷栋、沈恩孚、庄蕴宽、伍廷芳、温宗尧等人已经在开会讨论欲组织临时国会，并在当天就拟成《组织全国议会团通告书稿》，派人分头送交江苏都督程德全和浙江都督汤寿潜。11月12日，程德全和汤寿潜联名致电上海都督陈其美，建议在上海设立临时议会机关。办法是由已独立各省的“旧时咨议局”和“现时都督府”各出一人为代表，常驻上海，只有要两省以上代表到会，即行开会，续到者，可随到随议。陈其美正求之不得，连忙响应通电，并在11月14日把程德全、汤寿潜给他的联电以及他的通电一起在《民立报》上发表。一夜之间，陈其美不仅在革命党内部身价倍增，而且也成为国内响当当的知名人物。
11月15日，江苏、上海、福建三方代表在上海江苏会馆开会，把会议定名为“各省都督府代表联合会”，并邀请在上海的各省代表参加。两天之后，即11月17日，聚在上海的各省代表才从广东都督府来电中得知，武昌方面早已在11月9日通电各省派代表到武昌开会组织临时政府。11月20日，“各省都督府代表联合会”通过决议承认武昌为民国中央军政府，以鄂军都督执行中央政务，并请以中央军政府名义委任各代表所推选的伍廷芳为外交总长。
伍廷芳是沪军都督府外交总长，广东人，以中国近代第一个法律学博士的身份进入政坛，是李鸿章的外交智囊，曾经连续八年担任中国驻美大使。伍廷芳从美国回国之后，就一直在上海闲居，向来不跟革命党人交往。沪军都督府成立以后，伍廷芳还不知道陈其美是谁。有一天，陈其美突然登门造访，请他出任都督府外交总长。伍廷芳不同意，陈其美就给他下跪，并说不同意就不起来。伍廷芳没法，只得同意了。但他出任外交总长只是挂名，从来不去陈其美的都督府办公，一直待在家里，不愿出门。
11月23日，湖北代表居正到上海参加“各省都督府代表联合会”，详细报告黎元洪在11月9日通电各省请派代表到湖北组织临时政府的情况，并请代表们跟他一道去湖北。代表们在动身前往湖北组织临时政府之前，于11月25日留下一个决议：“各省代表赴鄂，宜各有一人留沪，赴鄂者议组临时政府事，留沪者联络声气，以为鄂会后援。”
11月28日，在上海的各省代表乘船逆江而上，前往武汉。他们当时还没得到消息，汉阳已于27日下午四点被冯国璋指挥的北洋军攻占。等他们的轮船11月30日抵达武昌时，武昌正处在北洋军的炮火淹没之中。在轰轰的炮火声中，武昌到处是残垣断壁，一片狼藉，代表们看呆了。幸亏英国驻汉口领事出面帮忙，他们才得以在汉口英租界一家洋行里开代表大会。武昌代表胡瑛的报告是整个大会的静心剂。胡瑛在报告中说：“民军在汉阳失利，北方即有人来商和平解决，驻汉英国领事亦出面为介绍双方商议停战。停战问题分为两层：一、长期停战，以全国为范围，应与内阁电商；二、短期停战，只就武汉一隅而言，即与清军统领冯国璋商议。现英国领事已交冯军统所开停战条款，请大家讨论。至于长期停战，据英领事说，黎都督须代表各省，方可议及。”
胡瑛报告完毕，代表们二话不说，立即一致表决。承认武昌都督府为中央军政府，请黎都督以大都督名义，执行中央政务，答复清军统领冯国璋的停战条款。
这样，代表们又热心起来，接下来的三天时间，代表们起草了《中华民国临时政府组织大纲》。大会进行到第五天，英国领事派人到会议现场宣布了一个天大的消息：江浙联军攻克南京！代表们一片欢呼。在欢呼声中，一致决议将临时政府设于南京。还待在危险的武汉干什么呢，躲在汉口租界里开会毕竟丢人。大家都到南京去，各省代表在南京开会选举临时大总统。有十省以上代表到南京，即开选举会！兴高采烈的代表们并没有完全失去理智，在当天的决议里特意写下一笔：“临时大总统未举定以前，仍认鄂军都督府为中央军政府。有代表各省军政府之权。”代表们之所以特意写下这么一笔，是为了方便黎元洪跟袁世凯派来的代表谈判。听到袁世凯的谈判代表唐绍仪即将沿京汉铁路南下武汉的消息后，各省代表决议：请伍廷芳来武汉，与唐绍仪商谈，代表们开出的谈判条件是：
一、推倒满洲政府。
二、主张共和政体。
三、礼遇旧皇室。
四、以人道主义对待满人。
12月7日，各省代表在武汉召开最后一次代表会议，因为第二天就要乘船前往南京了。但就在这最后一次会议里，代表们得到一份西方报纸登载的消息：上海方面有十四省代表举黄兴为大元帅、黎元洪为副元帅。消息是真是假，还不能确定。但代表们还是作了决议：如情况查后属实，请上海方面宣告取消。
武汉方面得到的消息是真的，南京攻下之后的第三天，留沪代表在上海开会，选举黄兴为大元帅，这个消息千真万确。这次选举完全是宋教仁、陈其美一手策划搞成的。宋教仁怕武昌成了中央政府，对同盟会不利。投票选举那天，江苏都督程德全、浙江都督汤寿潜、沪军都督陈其美都亲临现场投票。湖南人欧阳振声不是湖南都督府或咨议局代表，而是宋教仁的个人委派的代表，居然也有投票权。章太炎、章驾时、蔡元培、黄中央、赵凤昌、顾忠深、彭锡范等虽然没有投票权，但也去了投票现场，明显对投票结果产生了一定的影响。按照规定，留沪代表只起通信联络作用，私自选举大元帅，既不合理，又不合法。但是，当武汉方面的各省代表和上海方面的各省代表都来到南京的时候，上海方面私自选举大元帅这一事实已没办法推翻了。难道就接受这样的结果吗？黎元洪拒不接受这一事实，当黄兴在汉口、汉阳指挥作战的时候，还只是黎元洪名下的总司令，怎么失败后跑到上海就成了大元帅，而黎元洪却成了副元帅了呢？武汉方面的代表也不明白，黄兴是“汉阳败将”，一个败军之将怎么能随随便便当上大元帅？就这样，武汉方面的质疑声越来越大。黄兴本人意识到这样的质疑声里面包含的危险性。在他的革命信条里，有一条是：“功不成在我。”本着这个信条，黄兴致电在南京的各省代表，请辞大元帅一职，同时要求改选黎元洪为大元帅。在黄兴的谦让下，在南京的各省代表只好改选黎元洪为大元帅，黄兴为副元帅。
由于黎元洪离不开武昌的前线，只好由黄兴以副元帅的职位在南京暂行大元帅的职务。黄兴商请张謇向上海日本三井洋行借款30万元作为到南京的政府开支，打算早日从上海启程到南京就职。但在预定启程去南京的头一天晚上，黄兴突然改变了主意，通知他的参谋长李书城说他明天不去南京了。李书城大吃一惊，问他为什么。
黄兴说：“刚接到孙中山先生来电，他已经启程回国，不久可到上海。孙先生是同盟会的总理，他未回国时我可代表同盟会；现在他已在回国途中，我若不在上海等待他，抢先一步到南京就职，将使他感到不快，并使党内同志发生猜疑。太平天国起初节节胜利，发展很快，但因几个领袖们互相争权，终至失败。我们要引为鉴戒。肯自我牺牲的人才能从事革命。革命同志最要紧的是团结一致，才有力量打击敌人。要团结一致，就必须不计较个人的权利，互相推让。”
李书城听了黄兴的这番话，感动异常。很多年以后，他还念念不忘地回忆说：“我听了黄先生的这一番话，感到他的人格非常伟大，感到他对革命事业的忠诚纯洁，深为佩服。这一晚的谈话，深深印在我的脑海，永不磨灭。我看他以后处理一切事，对待一切人，都是从这种精神出发的。”
当武昌起义发生时，孙中山在哪里呢？他在美国北部科罗拉多州丹佛市的一家旅馆里。他对武昌起义一无所知，只是从美国当地的一张报纸上看到武昌起义成功的消息。得到消息的孙中山并没有马上启程回国，而是继续留在美国，之后辗转去了欧洲的英国、法国，然后乘船回国，途经新加坡，北上香港。
到香港时，广东都督胡汉民亲自到香港迎接他。胡汉民要他留在广东，不要继续北上，但孙中山坚决要北上。胡汉民最后被孙中山说服，自己也跟着孙中山一起北上了。
12月25日，孙中山乘坐从香港来的外国轮船抵达上海，黄兴带着一大帮人亲自到码头迎接。之前，听说孙中山要从海外回来，而且已在海外向华侨筹得巨款，购买五艘军舰和大批枪支弹药，上海的革命党报纸争相报道，一片欢呼。一时间，孙中山给人带来巨大的希望。大家都眼巴巴地等待他的奇迹。可是，孙中山走下船来，他的身后只跟着胡汉民等少数几个人，并没有看到军舰和弹药。孙中山对此解释说：“外国人曾向我说过，只要中国革命党得到政权，组织了政府，他们就可同中国革命党的政府商谈借款。”
1912年1月1日，南方革命党违背南北和谈达成的默契，抢先在南京成立中华民国临时政府，孙中山就任临时政府大总统。袁世凯在北京闻讯，大发雷霆，下令取消南北停战协议，南北形势骤然紧张，战争一触即发。
孙中山虽然就任南京临时政府大总统，但他刚刚由海外归来，而且他从1895年至今，已有16年没有在国内待过，对国内的情况相当陌生。南京临时政府的人员大部分跟他关系疏远，而跟黄兴的关系比较亲近。黄兴虽然只担任临时政府陆军总长，实际上却掌管了整个临时政府的军政大权。临时政府成立以后，军费开支大得惊人，行政办公也急需费用，黄兴为此大伤脑筋，东奔西走，忙得焦头烂额。一天晚上，黄兴带着他的参谋长李书城去询问孙中山回国时向大家承诺的向英美借款的事有无头绪。孙中山当时正在看外国报纸，他不紧不慢地放下报纸对黄兴说：“外国人曾向我说过，只要中国革命党得到政权，组织了政府，他们就可同中国革命党的政府商谈借款。我就职以后，曾向他们要求借款，并已电催过几次，昨日还曾发电催问，请他们实践诺言。但今日是星期六，明天是星期日，外国人在休假，照例不办公的。明日不会有复电，后天可能有复电来，我再告诉你。”[1]到了后天，没有消息。再过几个星期，仍没有消息。黄兴继续焦头烂额，但再也不去问孙中山了。
孙中山通过临时政府外交总长王宠惠的哥哥王勋，与流亡日本的盛宣怀密商，由盛宣怀向日本财团借款接济南京临时政府。南京临时政府打算将汉冶萍公司出让给日本财团，以换取日本财团五百万元的现金支持。但这件事情泄露出去以后，舆论一片哗然，南京参议院和汉冶萍公司股东大会激烈反对。但孙中山并没有被舆论和反对声吓倒，亲自去会见日本政府的联络人森格，打算将满洲（东三省）租让给日本，再换来日本政府一千万元的借款支持[2]。但这一谈判遭到日本陆军大臣石本新六的反对，石本新六说：“满洲是日本人为之抛洒珍贵鲜血的地方，理应享有一切权益，而无须以金钱收买。”这样，借款没有借到，南京临时政府也就无法维持下去，孙中山只好向袁世凯表示屈服，承诺只要袁世凯迫使清帝退位，便将临时大总统一职让给袁世凯。
