殷朝末年，孤竹国国君有两个儿子，大儿子伯夷，小儿子叔齐。国君在位时，有意让叔齐继承王位。国君死后，叔齐觉得自己比伯夷小，就让给伯夷。伯夷说：“立你为国君，是父亲的意思，我怎么能接受呢？”两人相互推让，都不愿立为国君，最后，两人弃位逃往西部周文王处。
刚好走到半路，伯夷、叔齐碰上周武王的部队。原来周文王已死，武王继承了王位。还来不及埋葬父亲，他就用车载着周文王的雕像，往东讨伐纣王。
伯夷、叔齐拦住周武王的马头苦苦劝谏说：“父亲死后不埋葬，反而兴兵讨伐，说得上孝道吗？以臣子的身份去杀害君王，说得上仁慈吗？”武王手下的士兵见了，想杀死他俩。姜太公说：“他们是仁义之人。”就叫士兵把他俩扶开。
周武王平定殷朝之后，天下都属于周朝。为此，伯夷、叔齐感到耻辱，坚决不吃周朝的粮食，隐居在首阳山中（“伯夷、叔齐耻之。义不食周粟，隐于首阳山。”）靠采摘蕨菜度日，他俩编了一首歌，歌中唱道：“登上西山啊，采摘蕨菜。残暴代替残暴啊，不知谁是谁非（“以暴易暴兮，不知其非矣”注：伯夷、叔齐认为殷和周都是一样的残暴）？神农、舜和禹已经消逝啊，我们将依靠谁？往哪里啊往哪里？生命就这般衰微！”
不久，伯夷、叔齐都饿死在首阳山中。
