權德輿秉性耿直，為人寬和，言語質樸自然，風度甚佳，為時人所稱道。他辦事光明正大。有一次，運糧使董溪、於皋謨盜用軍費，案發後，被流放嶺南。憲宗感到量刑太輕，很後悔，又暗暗派宦官趕去將兩人殺死於流放途中。權德輿就立即上疏說，依據這兩人的罪名，本當公開處死的，但既然已經宣判了流放，就應當遵照執行，如今卻又暗暗地將他們處死，這是名不正，言不順，有損朝廷信譽，勸憲宗今後再也不能如此幹了。這足見他為人之耿直。
權德輿好著述，善寫銘文表章，文辭雅正而又弘博，當時，王侯將相的銘誌十有八九都請他撰寫。他尤其喜歡讀書，常常手不釋卷，作有文集50卷，稱《權文公集》，流傳後世。
憲宗曾詢問權德輿：“宰相為政，寬猛何先?”權德輿對答說：“秦朝以嚴酷而亡國，漢朝以寬大而興盛，為政該以何者為先，由此就可知了。”
權德輿任相的次年，李吉甫和李絳又先後被拜為宰相。李吉甫好逢迎憲宗心意，而李絳為人梗直，兩人常為政事在憲宗麵前爭論。每當此時，權德輿總不表態，並因此而受到朝臣的指責，也引起了憲宗的不滿。元和八年 (公元813年)正月，他被罷去相職，以檢校吏部尚書留守東都，後又拜為太常卿，改刑部尚書。公元816年，他又以檢校吏部尚書外出擔任山南西道(今陝西漢中)節度使。二年後，以病乞還，卒於途中，享年60歲。贈尚書左仆射，諡曰文。
權德輿寓居陽羨期間，曾遊覽玉女潭，稱玉女潭為“陽羨勝境，以此為首”。另有詩作《周平西墓》：“英威今寂寞，陳跡對崇丘。壯誌清風在，荒墳白日愁。窮泉那複曉，喬木不知秋。歲歲寒塘側，無人水自流”傳世。