蒋介石追随孙中山革命，是由其盟兄陈其美介绍的。1908年夏，蒋介石东渡日本学军事归国度假时，由陈其美在上海介绍加入同盟会，他经常随同陈其美出入一些游乐场所，听从陈的指挥，对孙中山提出的民主革命纲领和理论并不重视，一些活动带有浓厚的帮会色彩。
开始他并不引人注目，后来则成为一个举足轻重的人物。国民党的史学家们都称蒋介石的部下为“敢死队”。在带领部下成功地攻打浙江巡抚衙门之前，他给母亲写了封信，信中恳切地希望母亲“恕儿不孝之罪”，接着他又说他是多么希望能干一番事业出人头地，纵然战死也心甘情愿。从他母亲的回信可以看出，她确实是个名副其实的刚强的母亲。她在给儿的回信中说，“献身与否均由你的事业决定。家中的事不必挂念。”
辛亥革命中的杭州起义胜利结束了，尽管对一个年轻人来说，他的作用与重大得多的整个事业相比显得很有限——而且这场战斗的胜利充其量也只能算整个杭州起义的一部分，但大家都认为他干得挺不错。后来，一位将领写了本不长的书《浙江独立纪实》，书中把蒋介石当作英雄特写了一番。为表敬意，他献给蒋介石一本，并随书附信一封。按照儒家的风尚，蒋介石回信说，他无功受奖，受之有愧，并希望此书再版时，作者也能公正地评价一下书中未曾提及的参加了这次战斗的其他人员。
这些事件反映了革命运动的状况：清政府被推翻了，但这种变化的结果只是仅仅让另一个清朝的官员上台，而他对孙逸仙的革命纲领——三民主义毫无兴趣。如果这样的话，那这种变化还有什么意义呢？蒋介石觉得幻想破灭了，他不甘谋职于袁世凯麾下。也就是在那1912年8月，他决定返回东京继续学习他的军事。
他一面学习，一面担任《军声》杂志的编辑工作，该杂志经常由他自己撰稿。他的第一篇军事政治著作就是在1912年至1913年这段时间写成的。他在《军声》创刊号上撰文表示向往一个大同的世界，在这样的世界里各民族和睦相处，只需警察来维持秩序，没有战争，因而也无需军队。他更现实地分析了西藏和蒙古的局势，指出俄国和日本最有可能与中国为敌。他排除了中国能经受得住俄国人进攻的可能性，指出实际上无论侵略来自何方，中国都不堪一击，并大声疾呼建立一支至少有60万人的正规陆军来保卫国家。就中国的面积和当时庞大的人口而言，这已是相当小的兵力，但这也将花去相当于中国的一半到三分之二的国家收入。
他还强烈批评了把军权和民权集中于省总督一人之手的制度，他写道：这种制度要是不改变，中国总有一天会变成由许多各自为政的王国组成一个松散的拼盘，因此，军权必须由中央政府来掌握。
蒋介石发表这通狂论时是25～26岁。20世纪20和30年代，戴高乐就法国的国防问题也发表了一些文章和书籍，并引起了争论。这样看来，蒋介石发表类似文章时比戴高乐要年轻10岁。尽管那时人们同样爱好争论，但蒋介石的这篇文章是否引起过类似的争论并无记载。不过，当时他还很年轻，又不太出名，而且文章还是在一个异邦的首都写出来的。
那时候在远东，任何一个想从事军事生活的年轻人学习军事，首先想到的便是日本，然后才能轮到另一个军事强国德国。蒋介石正打算去德国继续他的军事学习时，孙逸仙为推翻袁世凯而发动了“二次革命”。蒋介石立即赶往上海投奔陈其美，担任了陈的参谋长。
1913年7月23日，按照事先计划，陈其美宣布上海独立。但这次也和以前一样，革命者举事迅速，失败也迅速。他们攻打的制造局防守严密，战斗中蒋介石还被一名哨兵抓获，但他设法逃了出来。
蒋介石失败了，但并没因此而失宠。在孙逸仙眼里，他甚至变得更坚强了。要说孙中山是个成功的革命领袖，似乎不大恰当，但蒋介石对他身处逆境所表现的勇气倍加钦佩。
御用的传记作者因此而认为他俩的亲密友谊即始于此时。这次革命失败后，他俩同赴日本寻求避难。他们的党被背信弃义的袁世凯取缔了，国民党领袖们眼睁睁地看着他们的民国在遭到极度痛苦的挫折后土崩瓦解了。不错，他们革命所发生的影响和作用遍及全国各地，但绝大多数地区传来的报告都令人沮丧。
南方的局势尤其险恶。陈其美认为，不管怎么说南方受革命影响较大，而真正的革命目标其实应该是北京和北方。孙博士认为他说的有道理，便将他派往大连，在那里花了6个月的时间进行实地调查，但结果一无所获。
现实是无情的。在国民党和袁世凯的斗争中，国民党不论哪方面都要略胜一筹。但他们的组织涣散，情报不可靠，治安防卫漏洞百出，蒋介石很早就发现了这些问题，1914年春他再一次意识到上述问题。这一年他被派往上海去执行一项任务，在那里组织一起暴动，他计划制订得十分完善，但方法有点欠缺。他打算一动手，就马上占领该城四周和海洋附近所有重要的战略点。但上海镇守老奸巨猾，一年以前他曾遇到并处理过类似的问题，他的安全防范设施十分有效，5月30日，他派警察对蒋的总部突然袭击，进行搜查，部队和警察一下包围了蒋介石正打算去的一个朋友的家。
蒋差一点被抓了起来。当他从远处看到围着一群人时，就赶紧逃之夭夭了。
蒋介石回到东京，开始整天钻研中国哲学和军事著作，并且开始每天晚上在日记中记下白天所干的事。
由于那时他没有多少事可做，所以有人猜想他并没多少东西可以往日记里写。但记日记的习惯已缠住了他，他一直将这个习惯保持到死。
然而革命行动并未销声匿迹。1915年夏，蒋介石又迎来了所谓的“第三次革命”。与前两次一样，这一次的结果仍无起色。
蒋介石第一次——但并非最后一次——效法袁世凯惯用的伎俩，策划了一起暗杀行动。因为上海守官两度挫败了蒋介石占领该城的企图，这一次蒋得将他干掉。于是两名国民党刺客——一个是神枪手，另一个是怀揣炸弹，于11月10日找到了暗杀的目标，但关键时刻他俩却变节自首了。
12月5日，原定的海上援助攻城计划只得告吹，设在法租界内的革命总部也被法国巡捕捣毁，蒋介石爬到另一幢楼上才得以脱险。
这次失败使蒋深受打击，可能由于神经衰弱，也可能是由于得了一种身心病——心理情感的原因而引起的身体上病症——他开始卧床不起了，他仍隐匿在上海。他母亲得知这个消息后，长途跋涉赶来护理他。
1914年初夏，蒋介石奉孙中山的命令，从日本回国，参与沪宁讨袁的军事行动。蒋介石回到上海后，联络了一些革命党人，制订了一个夺取上海的军事作战计划，准备兵分3路进攻上海。他自己担任第1路司令官，并在小沙渡设立了司令部；另一路担任进攻上海真如一带，第3路担任破坏铁路、通讯设施及钳制长江上的海军。但是，未等这个计划开始行动，就被湘沪镇守使郑汝成侦破。蒋介石的司令部被搜查，没收了枪械、子弹、旗帜、文件等。多名革命党人被捕，四人殉难。
蒋介石这次的未遂军事行动败露后，袁世凯立即向各省发布通缉令，追缉蒋介石等主谋者。蒋介石躲到中华革命党人张人杰的家中。这时革命党人中又出了叛徒，这个被袁世凯收买的叛徒，竟是鉴湖女侠秋瑾的战友、光复会的领导人之一，辛亥革命时与蒋介石一起攻打杭州城的著名革命党人王金发。王金发指挥密探，夜间到张人杰家中来捉蒋介石，碰巧蒋介石到别的朋友家去小坐，回来时发现张宅周围隐藏着许多陌生人，已将张宅包围。在此情景下，蒋介石侥幸逃脱了。这以后蒋介石已无法再在上海藏身，正好陈其美这时给他发来电报，催他前往日本。蒋介石又于这年的6月间第5次前往日本。
陈其美电召蒋介石赴日本，是因为孙中山接到东北一位名叫宁孟的革命党人的报告。报告中说：吉林、黑龙江两省的军队已经运动成熟，倾向革命，请孙中山立即派干部来主持工作。孙中山见到这个报告后很高兴，因为东三省邻近北京，如果能在东北发动军事进攻，可以直捣袁世凯巢穴。于是决定派蒋介石和丁景梁前去东北视察情况。
蒋介石和丁景梁接受任务后，于7月初从日本动身，来到东北。他二人先后到了哈尔滨、齐齐哈尔、满洲里及长春等地进行视察。结果发现，不但没有军队倾向革命，整个东三省没有一点革命气氛，一片死气沉沉。奉系军阀的头子、“东北王”张作霖，一直投靠日本帝国主义，使东北控制在日本的手中。张作霖在辛亥革命中就大肆屠杀、镇压革命党，这时又和袁世凯勾结起来，在这里根本没有开展革命活动的余地。革命党人宁孟谎报军情，是企图从孙中山那里骗取经费。
正当蒋介石在东北视察的时候，第一次世界大战爆发了。8月2日，蒋介石从东北写信给孙中山。在信中，他陈述了第一次世界大战以后的发展趋势，并结合当时国际、国内的形势，提出了中华革命党今后的倒袁计划。蒋介石认为：“本党今日之进行，以统一各省革命计划，确定全盘整个之方案，集中一点，注全力，聚精锐以赴之，是为今日第一之急务也。”接着，蒋介石在信中分析了各省的革命力量之后，提出“浙江为今日唯一之根据地点”的主张，他认为浙江的军队“狨属昔时之革命分子，应该以出全力为之运动”。这时孙中山正在筹划全国性的武装起义，尤其寄希望于陈其美领导的湘沪和江浙一带的军事活动，所以蒋介石的建议深合孙中山之意。虽然蒋介石信中的建议在以后并未得以实施，却给孙中山留下了好印象。
蒋介石在东三省视察两个月之后，于8月末又回到日本。9月3日，蒋介石为沪、杭革命机关被破获、多名革命党人被杀害的事情，曾一度去上海处理善后，不久即回到日本。此后大约有一年多的时间未再进行什么革命活动，而是“遁迹东京，锐志于学，每日朝夕静坐，看书习字”。蒋介石每日专心研读的是明朝的《王阳明全集》和清末曾国藩的《曾文正公家书》。王阳明官为明代赣南巡抚，曾国藩是清末两江总督，两人都是屠杀农民起义的刽子手。两个人的著作又都服膺“程朱理学”，宣扬以“三纲五常”为核心的儒家学说。王、曾二人成为蒋介石所崇奉的主要人物。这两个人的学说是蒋介石一生的“检身之法”和“行动指南”。蒋介石直到临死前，还谆谆教诲其子蒋经国，要把王阳明、朱熹、陆象山等儒家学说的著作，当做“圣哲”来研读。
1915年10月中旬，孙中山任命陈其美为湘沪司令长官，携带着作战计划，从日本回到上海，在法租界霞飞路渔阳里5号安了家，作为反袁军事活动的总机关。然后，陈其美给在日本的蒋介石发去“盼即回沪”的电报。蒋介石接电报后，立即动身返回上海，参加筹划上海起义。
蒋介石回到上海，首先与陈其美计划刺杀湘沪镇守使郑汝成。11月10日，日本大正天皇登极举行加冕典礼，郑汝成乘汽车赴日本领事馆致贺。陈其美派革命党人埋伏在外白渡桥，郑汝成的汽车行至桥上，被革命党人当场击毙。
刺杀郑汝成之后，陈其美开始策划上海军事起义。蒋介石拟订了一个“湘沪起义军事计划书”，计划先发动军舰起义，然后攻取上海军事要地——江南制造局。经过一番运动，停泊在长江上防守上海的肇和、应瑞、通济3艘军舰响应革命，决定在12月15日3舰起义。但是，肇和舰有异动的情况被袁世凯侦察到，于是袁世凯决定将肇和、应瑞两舰调离上海，驶赴广州。陈其美不得不改变起义计划，仓促决定12月5日3舰起义。当时武器准备不足，炸弹是用铁香烟罐头盒做的。到了起义的一天，肇和舰虽然得手，应瑞、通济两舰却被袁世凯用重金收买，发炮攻击肇和舰，起义遂告失败。总机关在当天夜里也被法租界巡捕搜查，陈其美和蒋介石蹬上翻窗从屋顶逃跑。
1916年4月，蒋介石又协助杨虎攻打长江要塞——江阴炮台。4月14日占领江阴炮台，蒋介石与杨虎还发表了“江阴独立宣言”。不料，占领江阴炮台才5天，内部发生叛变，炮台士兵全部逃离，蒋介石只身逃回上海。
5月18日，袁世凯设下圈套，将陈其美暗杀于上海法租界萨坡赛路的日本侨民山田纯五郎寓所。陈其美生前历任上海都督、二商总长等要职，又是上海青帮的大头目。但死后竟没有一个亲属、朋友前来收领遗体。
蒋介石听到陈其美被刺死后，痛哭失声，立即赶到出事地点，将陈的尸体载回自己在上海秘密寓所入殓，并撰写祭文悼念。
陈其美被刺死后，使孙中山失去了一个重要的助手，作为陈其美亲信的蒋介石，开始受到孙中山的重视。蒋介石也从这时候起，极力表示对孙中山、对中华革命党的忠心。
