作為文學體裁之一的詩歌，是客觀的現實生活在詩人頭腦中反映的產物。由於客觀現實和詩人境遇的不同，詩歌的藝術風格也有變化。《衡嶽》和《山石》雖是出自同一手筆，且是同類題材的作品，但兩者風格明顯有別。《山石》寫得清麗飄逸，而此詩則寫得凝煉典重。
詩人通過仰望衡嶽諸峰、謁祭衡嶽廟神、占卜仕途吉凶和投宿廟寺高閣等情況的敘寫，抒發個人的深沉感慨，一方麵為自己投身蠻荒之地終於活著北歸而慶幸，一方麵對仕途坎坷表示憤懣不平，實際上也是對最高統治者的一種抗議。
開篇六句寫望嶽。起筆超拔，用語不凡，突出南嶽在當時眾山中的崇高地位，引出遠道來訪的原因。“我來”以下八句寫登山。來到山裏，秋雨連綿，陰晦迷蒙；等到上山時，突然雲開雨霽，群峰畢現。整段以秋空陰晴多變為背景，襯托出遠近諸峰突兀環立，雄奇壯觀，景象闊大，氣勢雄偉。“潛心默禱若有應”句，借衡嶽有靈，引起下段祭神問天的心願。“森然”以下十四句寫謁廟，乃全詩的核心。韓愈遊南嶽，雖不離賞玩名山景色，但更主要的還是想通過祭神問天，申訴無人理解、無處傾吐的悒鬱情懷。在敘寫所見、所感時，肅穆之中含詼諧之語，涉筆成趣。最後四句寫夜宿佛寺。身遭貶謫，卻一覺酣睡到天明，以曠達寫鬱悶，筆力遒勁。末句“寒日”，呼應“秋雨”、“陰氣”。全篇章法井然。
這首詩的思想價值雖不高，藝術表現上卻有特色。全篇寫景、敘事、抒情，融為一體，境界開闊，色彩濃重，語言古樸蒼勁，敘述自由靈活。篇幅不短，而能一韻到底，一氣嗬成。雙句末尾多用三平調，少數收尾用“平仄平”，音節鏗鏘有力，重而不浮，頗具聲勢。