隋末之初，翟让初任东郡法曹，因犯罪被处死。当时狱吏黄君汉很佩服翟让骁勇不寻常，为人仗义豪爽，称的上一代豪杰，他认为翟让一定能干出一番大事业，于是就夜里悄悄对翟让说：“翟法司，天时人事，也许是可以预料的，哪能在监狱里等死呢？”翟让听后又惊又喜，说：“我翟让，关在牢笼，生死只能这样了，愿听从黄曹主的吩咐。”黄君汉当即给翟让打开枷锁，翟让再三拜谢说：“我蒙受您的再生之恩得以幸免，但黄曹主您怎么办？”于是流下泪来。黄君汉发怒道：“我本以为你是个大丈夫，可以拯救黎民百姓，所以才冒死来解救你，你怎么却像儿女子弟一样以涕泪来表示感谢呢？你就努力设法逃脱吧，不要管我了！”于是翟让逃亡到瓦岗（今河南滑县东南）起义。
同时，与翟让同郡的单雄信，骁勇矫健，擅长骑马使矛，他与黄君汉一样，同被翟让的品德武艺佩服之志，便招集年轻人前去投奔翟让。
离狐人徐世绩（徐茂功，唐赐姓李，名李绩，与名将李靖齐名）家在卫南，十七岁，有勇有谋，人称小诸葛，时常未卜先知，也前来投靠翟让。徐茂功给翟让多出奇谋建议，他和单雄信屡建奇功，因此翟让对他们恩宠有加，推心置腹。翟让等以瓦岗为根据地，故称瓦岗军。
大业十二年（616年），贵族出身的李密，在参加杨玄感起兵失败后，投奔瓦岗军。李密较有政治眼光，他建议翟让积极发展势力，扩大影响。翟让重视李密的建议，首先攻取荥阳。
因李密在每个战役中都发挥主要作用，翟让听王伯当和徐茂公的进言禅位于李密，李密自称“魏公”，封翟让为司徒。
大业十三年（617年）11月11日，李密使人邀请翟让带亲信兄长翟弘、侄子翟麾候、军师徐茂功、猛将单雄信等人去赴宴喝酒。
徐茂公对翟让说：“让二哥，为什么大王只邀我等二哥亲信，此去恐是鸿门宴，没想到大王竟是心胸如此狭窄恶毒之人，我们都选错人了”。翟让坚信的道：“茂功你怕是多虑了，大王不是这样的人，何况我等兄弟都是百里挑一的好手，又是大王的重臣”。
徐茂公下跪请求，担心说道：“主上，不要去了，可以吗？”。翟让生气的回道：“茂功，你要是胆小怕事就不要去，我都说过以后不要再叫我主上了。”
徐茂功看到翟让如此生气，只好无可赖何的道“好吧，让二哥，我等一定要小心为上”。之后徐茂功过于匆忙让手下人去通知五虎将和翟让旧部，随后紧随翟让去赴宴。
李密怕翟让和他的手下起疑，便对其卫士说：“今天我和几位高官喝酒，不需要这么多人，只留下几个使唤的人就行了”。后李密心腹都离开，但翟让心腹护卫还留在那里。
李密手下方彦藻看到这样情形后，说道：“今天邀兄弟们来是为了一起喝酒取乐，天这么冷，司徒大人的随从人员也喝点酒、吃点饭吧”。李密笑呵呵的说：“一切听司徒的安排”。翟让想也没想一点防备之心也没有，回道:“好”。于是随从人员都出去喝酒去了，只有李密的手下菜建德拿着刀站在一旁。徐茂功很是担心又不好说什么，还没等他多想。李密面带微笑的拿出一张很好的弓递给翟让说：“司徒你看看这张弓如何”。翟让从李密手中接过来，神情专注的欣赏拉弓。正当翟让把弓拉满，蔡建德迅速从翟让背后砍了一刀，之后翟让倒在血泊中。徐茂功本想救他的，但是看到这一幕他知道一切已不可挽回，只好迅速逃跑。翟让的哥哥翟弘和侄子翟麾候武力远不及他，而且手上没有兵器，很快就被砍杀。当徐茂功逃到大门口后与守门的士兵搏击，当被砍伤脖子时，正好王伯当等人赶到并及时制止，王伯当大声向守卫吼道：“你等快住手”，因此徐茂功才得以幸免。单雄信一直被李密看好，虽没被杀，但赤手空拳，很快就被擒住。
当翟让手下一一被拿下之后，李密对他们说：“我与各位一起兴兵起义，是为了除暴安良。司徒他对上不尊，想造反，我不得不杀他。如今我只杀他一家人，与各位无关，请你们不要干涉，否则与他同下场”。。。。。
