殷朝末年，在現在的河北省盧龍縣境內，曾有過一個小國叫孤竹國。當時這個國家的國君有兩個兒子。老大叫伯夷，老二叫叔齊。兩兄弟自幼和睦相處，互敬互愛。當國君在世之日，就打算立叔齊接班，繼承王位。國君死了以後，叔齊不願自立，就推讓伯夷做國君。伯夷不同意，說：“你做國君，是父親在世之日就定下的，這是父親的遺志啊！”爲了不讓弟弟再推讓，他悄悄地逃走了。叔齊還是不肯做國君，他也棄位跟着伯夷逃走了。
往哪裏去呢？當時，伯夷和叔齊都聽說西部地區（今陝西地區）有一個諸侯國的首領周伯昌（即周文王姬昌），能尊重和愛護老人，尊重百姓，兩兄弟都跑到姬昌那裏去了。當他們二人趕到那裏的時候，姬昌已經去世了，他的兒子姬發（即周武王），正要誓師向東進發，去討伐商紂。伯夷、叔齊聽到這個消息後，就跑去攔住姬發的馬頭勸諫說： “您的父親剛死了，不很好地料理喪事，卻要去打仗，這能說是孝順嗎？”
姬發身邊的人一聽這兩個人，要阻礙他們去討伐荒淫殘暴的紂王，就要把他們殺了。這時，大臣姜子牙卻認爲：這兩個人雖然講得不對，但還是有堅貞、耿烈品德的人。就讓人把伯夷和叔齊打發走了。
後來姬發滅掉了商朝，建立周朝，史稱周武王。天下的`人民都歸屬了周王朝，唯有伯夷、叔齊卻覺得做周王朝的臣民是可恥的，就堅持不吃周朝的糧食，逃進首陽山（今山西省永濟縣南）隱居起來。肚子餓了就採集野草來吃，等到餓得快死的時候，他們還自編了一支歌兒，輕聲唱着，歌詞是：“登彼西山兮，採其薇（一種野草，嫩時可食）矣。以暴易暴兮，不知其非矣。神農、虞、夏忽焉沒兮，我安適歸矣？于嗟徂兮，命之衰矣！”歌詞的大意是登上那西邊的首陽山啊，採些野草嫩芽來填肚皮；用暴力去代替暴力啊，還不知道自己做錯了事；神農、虞舜、夏禹這些令人嚮往的時代都飛快地過去了啊，我們該回到哪裏去？咳，走吧！我們的生命到了結束的日子了。
不久，他們都相繼餓死在首陽山上。
根據這個故事，後來人們就引出“不食周粟”這個成語，比喻以絕食來反對某種不如意的作法；現在也多用來比喻人的堅貞、耿直的德行。