希姆莱并不知道日本方面提出的德国向斯大林提出双边停战的建议，但他显然也已经意识到德国不可能赢得这场战争。当年9月12日，他也与希特勒会面，讨论了向苏联或者英国提出试探性和平建议的想法，他当时想得更多的是与英国达成类似的和平协议。显然，他得到的是与日本大使一样的回答，因为希特勒对此根本不感兴趣。
希特勒一直认为，谈判只可能由实力占优的一方提出，德国现在的处境提出谈判只能是枉然。当时，他只想发动一次大的攻势，彻底扭转战争对德国不利的局面。他的想法是在地处法国北部、比利时东南部及卢森堡北部的阿登高地发动一次全面攻势，将英国与美国军队“赶进大西洋”，然后，用缴获的新武器，对苏联发动全面进攻。
到了1944年秋天，盟军已经完成了对德国东西边界的合围，第三帝国的灭亡已经只是时间问题。与希特勒不同的是，希姆莱再也不准备抵抗下去了，他还想要自己的脑袋，还想领导后希特勒时代的德意志帝国，如果有可能，继续对布尔什维克主义作战。正是基于这些考虑，希姆莱需要与西方的英国达成协议，正如那份8月份发出的电报所表明的，他已经开始寻找自己的出路了。
只是，那时希特勒仍是纳粹德国的元首，拥有至高无上的权力，因此，希姆莱每走一步都需要极为谨慎。在接下来的几个月时间里，他一直扮演着两面派的角色，表面上，他仍是“忠诚的海因里希”，暗地里，他加紧了与盟国试探性的接触，以求达成秘密和平协议，然后“率众起义”，他不想自己与希特勒一起，走到自毁之路的尽头。
1944年12月，德军在阿登高地发动了一次很大的攻势，但这次战役并没有改变纳粹德国的命运，希特勒试图将英法盟军赶出欧洲大陆的如意算盘完全失败了。剩下的路已经没有了，只有顽抗到底。希特勒当时叫嚣着：“我们决不投降！我们可以失败，但我们将会让世界一起做陪葬！”
希特勒孤注一掷的叫嚣也许会引起一般纳粹分子的共鸣，但希姆莱却已经不再狂热了，他对形势已经有了清醒的认识：德国完蛋了！1944年12月底，纳粹党卫军情报头子沃尔特·施伦贝格手下的一位联络官从上司那里听说，希姆莱正试图与盟国中的某国达成一项单独的和平协议。现在可以证实，这个“某国”其实就是英国。
但是，希姆莱如果想与盟国达成任何和平协议，他必须首先改变自己的声誉，要知道，他可是希特勒“最忠诚的党卫军战士”。为了取得西方盟国的信任，他开始频繁地露面表现自己，他要重新树立自己的形象。
1945年1月，一位代表美国和加拿大犹太人的瑞士调解人在盟国和希姆莱之间进行游说和调解，希姆莱同意以25万美元为代价，在一个月内释放1400名犹太人。然而，到了2月份，1200名犹太人被释放，但他并没有要钱。不过，由于深知希特勒不会允许他这样做，希姆莱请美国和瑞士的媒体在报道此事时，应突出希特勒的“人道主义姿态”。华盛顿当时也肯定准确判断出了希姆莱想要寻求达成和平协议的愿望。
尽管希姆莱在此事上做足了手脚，但当希特勒得知他一直想灭绝的犹太人被释放时，仍大发雷霆，并立下令：绝不能放走一个犹太人！这也是只有1200名犹太人，而不是1400名犹太人侥幸逃生的原因。事已至此，希姆莱的努力看来是白费了。1945年1月，他被希特勒贬到其他职位，当上了一名高级军事指挥官。希特勒将他另用的理由是利用了他的身体状况，称他因长期生病，已不适应现在的工作，而把他安排到柏林北部的一个党卫军医院休养。由此，希姆莱从内心感到他和元首之间的隔阂正在加深。一种背叛的心也就越来越强烈。希姆莱已经在计划自谋生路的方法。
希姆莱为了提高自己在西方盟国面前的发言权以及所谓的新形象，下决心同意与来自世界犹太人大会的一名代表在一个秘密地点会面。在这次会面中，他同意释放关押在拉文斯布里克的犹太妇女，这显然是与希特勒的旨意背道而驰的。
1945年2月到5月期间，希姆莱多次与瑞典红十字会副主席康特·弗尔克·贝纳多特会面，经过这些会谈，他所计划的德国向西方投降的可能性越来越大了。
1945年4月22日，歇斯底里的希特勒公开承认德国已经输掉了这场战争，并表示自己将随第三帝国的消亡而消亡。第二天傍晚，当希姆莱再次与贝纳多特会面，并请求他向西方盟国转达德国愿意投降的意思时，希姆莱自己策划德国投降的计划，在盟国看来实际已经没有多少背叛的意味着。
希姆莱的最后提议晚了一步。1945年4月28日，希特勒通过BBC向全世界发布消息说，希姆莱制定了向英和美国无条件投降的计划，并称这是“人类历史上最无耻的背叛”。随后，希姆莱被希特勒剥夺了一切职务。对于希特勒来说，发现自己一直认为绝对忠诚的希姆莱竟然也背叛他，是对他最大的打击，他终于感到自己已经是四面楚歌，于是，他也准备了结自己的生命。果然，两天之后，他也死了，尽管现在关于他的死，还有种种的传言。
希特勒死后，德国元帅邓尼茨接替他短暂地当了几天第二帝国的元首。他知道希姆莱是不可靠的，因此拒绝了希姆莱入阁的要求。想继续掌权的希姆莱美梦破灭后，刮了刮自己的胡子，戴上自己的独眼黑眼罩，穿上一名党卫军士兵的军服，开始了自己的逃亡生涯。
但是，他并没有跑掉，两周后，他就落入了英国军队手中。1945年5月23日，他咬碎了镶在一颗假牙里的氰化物胶囊，自杀身亡。
关于希姆莱的死，历史上还有这样一段故事：当时希姆莱带着他的一帮亲信从弗伦斯堡逃向马恩。一路上，他们风餐露宿，十分辛苦。当一班人马疲惫不堪地来到易北河口时，面对滔滔的河水，他们不得不扔掉了汽车，换上了老百姓的衣服，加入了逃亡者的行列。但是当他们来到布莱梅港口时，认真的英国士兵对他们产生了怀疑。英国士兵发现这些人的身份证非常新也非常好，按理说，像这样逃难的人员不应该有如此崭新的证件。于是，他们被带到了兵营里监禁了起来。希姆莱受不了监狱的生活，于是他撕下蒙在眼睛上的黑布，亮出了自己的身份。
英国士兵听说他就是“大名鼎鼎”的希姆莱，立刻向上级报告。蒙哥马利元帅立即派人赶到这里，对希姆莱进行了审问和搜查。当一名军医给希姆莱检查口腔时，发现牙齿中间有一个东西闪闪发亮，就命令希姆莱把口腔对着灯光。这时，希姆莱突然掉转头，合上嘴，牙齿用力一咬，只听见他的嘴里发出一声轻微的响声。希姆莱的身体抽动了几下，就不动了。他咬碎了藏在口腔内的毒药管。
英国医生和士兵急忙给希姆莱灌进了大量的呕吐剂，并进行洗胃，但希姆莱还是一命呜呼了。
