曾国藩有胆量，更有一种敢为天下先的精神。咸丰二年底，在咸丰帝上谕的诏令下，在父亲的殷殷期盼中，在好友的再三说服下，回家四个多月的曾国藩，自湘乡来到了长沙，开始筹办团练，走上“以杀人为职业”（曾国藩自语）的道路。
团练是保甲法在当时社会中的一种演变，用于防守地方小股盗寇还勉强称职，如果用来防御强敌就变得无能为力。多少年后，曾国藩的幕僚薛福成在总结曾大帅成功时还颇有感触地说：“有得力之劲军以剿强寇，而以团练辅之，为坚壁清野计则可，专恃团练以剿强寇则不可。”他还指出：无论决策层还是高官们，都认为团练可以成功，因为没有筹饷之难，没有募兵之劳，反而能坐享其成，“其说非不美也”。但作为思想家的薛福成却一针见血地指出：“天下事没有实际意义的很少收到成效，而务虚名的多留后患。”他举出三个例证：一个是罗绕典，当时在籍“丁忧”，闻诏后即赴长沙与本省巡抚会办军务；另一个是前刑部尚书陈孚思，在南昌与江西巡抚办军务。这也是清廷最早任命的团练大臣。由于二人与巡抚同在城中，时间又非常短，因此虽然没有收到成效，但也不至于互相倾轧。后来者就不同了。像安徽的吕贤基，以工部侍郎在籍办团练，但当皖北危急时，无兵无饷，赤手空拳，最后殉难舒城。
与这些人相比，曾国藩走出一条新路：这条新路即“练”字招牌，将勇练成军。所以，薛福成说：“文正以团练始，不以团练终，且幸其改图之速，所以能成殄寇之奇功，扩勇营之规制也。”
曾国藩属于帮办团练，咸丰帝在接连发下的办团练御旨中，一再申明办兵原则，即不能取代正规军。这是镇压白莲教起义故伎的重演，妄图以此遏制太平军扩大兵力，由于团练不脱离生产，不拿政府军饷，不离本土本乡；同时，团练还要接受地方大吏的督促和管辖，因此团练大臣则只是帮同办理。但曾国藩对这样办团练不感兴趣，他要另立新军。
别人不敢做的事，曾国藩敢做；别人想不到的事，曾国藩想到了。想通就做，敢下火海，敢于尝试是他的性格。曾国藩认为，对付集中而强大的太平军，必须有一支强悍敢战的军队。有了它，太平军返回湖南，可以据城抵抗，守卫桑梓；太平军不来湖南，则可以出省作战，主动进攻。而这支军队的来源，就是自己募勇训练。曾国藩带领湘乡练勇赶到长沙后，就向湖南巡抚张亮基表示了他的以上想法。所谓“英雄所见略同”，张亮基也早有此意，二人遂一拍即合。因此，曾国藩到达省城的第二天就发出了他早已拟好的奏折。
曾国藩通达政务，对清廷政治的运作过程十分清楚。因此，对于回乡之后的第一份奏折，他写得很委婉，第一层讲了自己遵照皇帝御旨，前往长沙办团练，是“勉竭愚忠，稍分君父之忧”。第二层讲团练虽然好，但今昔不同，因为嘉庆年间是官给发饷，现在需要乡绅自己出钱，弄不好会走向反面；第三层讲长沙现今空虚，必须练兵才能缓急可恃。最后则抛出自己的练兵计划，他说：“自军兴以来二年有余，时日不为不久，糜饷不为不多，调集大兵不为不众，而往往见贼逃溃，未闻有与之鏖战一场者；往往从后尾追，未闻有与之拦头一战者；其所用兵器，皆以大炮、鸟枪远远轰击，未闻有短兵相接以枪靶与之交锋者。其故何哉？皆由所用之兵未经训练，无胆无艺，故所向退却也。今欲改弦更张，总宜以练兵为务。臣拟现在训练章程，宜参访前明戚继光、近人傅鼐成法，但求其精，不求其多；但求有济，不求速效。诚能实力操练，于土匪足资剿捕，即于省城防守，亦不无裨益。臣与抚臣熟商，意见相同。”
清廷急于平定太平天国，因而只要对此有利，就都开了绿灯。因此咸丰帝令其“悉以办理，以资防剿”。曾国藩的练兵计划获准通过。
曾国藩有较强的政治观察力和感受力。况且，他的政治眼光确实比清政府及同时代的大僚们高出许多。他看到了问题所在，尤其是利弊相权取其轻。的计划通过后，在给朱孙贻的信中说，“去冬之出，奉命以团练为名，近来不谈此二字，每告人日乡村宜团不宜练，城厢宜练不宜团。如此立说，明知有日就解散之弊，然解散之弊尚少，若一意操切行之，则新进生事者四出，讹索逼勒，无所不至，功无尺寸而弊重邱山，亦良可深虑也。”在给张亮基的信中更直截了当地说：“惟团练终成虚语，毫无实裨，万一土匪窃发，乡里小民仍如鱼听呜榔，鸟惊虚弦，惊怯四窜，难可遽镇也。”
他还在批给手下人的批牍中，将本来并无二致的“团练”一词，“谬加区别”，一分为二。他说：“团练”二字须分看。团，即保甲之法，清查户口，不许容留匪人，一言尽之矣；练，则简兵请师，制械造旗，为费颇多，故乡民不肯举行。本部堂每与各州县道及，宜乡间团而不练，城厢练而不团，庶几有益而易行。
曾国藩是一位通时达变的人。他改造“团练”，使他与当时的四五十位同练大臣分道扬镳。而且，由于“改图之速”，所以“立竿见影”。当然，艰辛的过程又非三言两语可以道荆
