約在公元728年（唐開元十六年），四十歲的孟浩然來長安應進士舉落第了，心情很苦悶，他曾“為文三十載，閉門江漢陰”，學得滿腹文章，又得到王維、張九齡為之延譽，已經頗有詩名。這次應試失利，使他大為懊喪，他想直接向皇帝上書，又很猶豫。這首詩是在這樣心緒極端複雜的情況下寫出來的。
據《新唐書·孟浩然傳》記載，孟浩然在長安落第後，詩人王維曾經邀請他到自己供職的翰林院見麵，誰知不久唐玄宗駕到了。孟浩然一時緊張躲到了床下，王維不敢欺君，道出實情。唐玄宗也沒有生氣，還命孟浩然出來作詩。孟浩然便吟詠了這首《歲暮歸南山》。