早年生活
劉墉，祖籍安徽碭山，康熙五十八年（1719年）出生於山東諸城，家族是當時的名門望族，其曾祖父劉必顯是順治年間進士，祖父劉棨曾擔任四川布政使，父親劉統勳則是幹隆朝的一代名臣。劉墉成長在名門相府，家族成員世代為官，自小受到良好的教育。
初入仕途
幹隆十六年（1751年），劉墉因為父親關係， 劉墉 以恩蔭舉人身份參加當年會試和殿試，考中二甲第二名進士，被授予翰林院庶吉士，在散館擔任編修，不久又升遷為侍講，成為其步入仕途的起點。
幹隆二十年（1755年）十月，劉墉的父親劉統勳因為辦理軍務失宜被下獄，劉墉受牽連也被懲治。後來父子得到寬釋，劉墉被降為翰林院編修。
幹隆二十一年（1756年）起，劉墉被外放為地方官，此後20餘年主要在地方為政，先後擔任過安徽學政、江蘇學政、太原知府和江寧知府等職。為官期間，劉墉基本秉承了父親劉統勳的正直幹練與雷厲風行，對科場積弊、官場惡習進行了力所能及的整頓，為百姓做了實事。同時積極貫徹皇帝意旨，查禁書、捉拿會黨，得到皇帝讚許。
幹隆二十一年（1756年）六月，劉墉擔任廣西鄉試正考官，十月被提拔為安徽學政。劉墉前往安徽赴任前，幹隆還特意召見並賜詩，其中有“海岱高門第，瀛洲新翰林”之句，意思是希望劉墉能夠不辱門楣、有所建樹。劉墉在任期間針對當時貢生、監生管理混亂的狀況，上疏“請州縣約束貢監，責令察優劣”，並提出切實可行的補救辦法，得到皇帝肯定。
幹隆二十四年（1759年）十月，劉墉調任江蘇學政，赴任前幹隆皇帝仍有詩相贈，可見其對劉墉抱有厚望。劉墉也不辱使命，為政嚴肅認真，出任學政時按試揚州，因為把關嚴格，使得一些想以作弊蒙混過關者最後不敢入場。他還上書皇帝稱：“生監中滋事妄為者，府州縣官多所瞻顧，不加創艾。（行政官員）既畏刁民，又畏生監，兼畏胥役，以致遇事遲疑，皂白不分，科罪之後，應責革者，並不責革，實屬闒茸怠玩，訟棍蠹吏，因得互售其奸。”這一看法深刻又切中時弊，深受幹隆皇帝賞識，稱讚其“知政體”。劉墉先後兩次提督江蘇學政，後期為官處事風格由峻厲剛急轉為平和舒緩，但嚴肅認真是一以貫之的。
宦海沉浮
幹隆二十七年（1762年），劉墉被任命為山西太原知府。幹隆三十年（1765年）升任冀寧道台。第二年，劉墉因失察所屬陽曲縣令段成功貪侵國庫銀兩，按律革職被判極刑。但幹隆皇帝愛其才，加恩詔免，僅發配軍台效力贖罪，第二年被赦免後在修書處擔任行走。
幹隆三十四年（1769年），劉墉因父親的緣故被重新起用，授予江寧知府。劉墉十分珍視這次機會，為政公正清廉，聲名遠播，百姓歎服劉墉的品行，將其比為宋朝的包拯。後來嘉慶初年的彈詞《劉公案》，就是以劉墉在江寧知府任上決斷疑案、為民做主的故事為藍本改編而成。
幹隆三十七年（1772年），劉墉調任陝西按察使。
第二年父親劉統勳病故，劉墉辭官回家服喪。幹隆四十一年（1776年），劉墉服喪期滿還京，清廷念劉統勳多年功績，詔授內閣學士，任職南書房。十月又任《四庫全書》館副總裁，並派辦《西域圖誌》及《日下舊聞考》總裁。次年七月，充江南鄉試正考官，不久後複任江蘇學政。在任期間，劉墉曾劾舉秦州舉人徐述夔著作悖逆，要求按律懲辦，年底因辦事有功和督學政績顯著，遷戶部右侍郎，後又調吏部右侍郎。
幹隆四十五年（1780年），劉墉升任湖南巡撫。當時湖南多處受災，一些無災州縣盜案迭起，貪官汙吏猖獗。劉墉到任後一麵查明情由，據實彈劾貪官汙吏，建議嚴辦。一麵稽查庫存，修築城郭建倉儲穀，賑濟災民。僅一年餘，庫銀充實，民糧豐足，劉墉得到當地百姓愛戴。
幹隆四十六年（1781年），劉墉升任為都察院左都禦史，次年三月任職南書房，不久又充任三通館總裁。此時，禦史錢灃彈劾山東巡撫國泰結黨營私，劉墉奉旨偕同和珅審理山東巡撫舞弊案。劉墉至山東假扮成道人，步行私訪，查明山東連續三年受災，而國泰邀功請賞，以荒報豐。征稅時對無力繳納者一律拿辦，並殘殺進省為民請命的進士、舉人9人。劉墉如實報奏朝廷，奉旨開倉賑濟百姓，捉拿國泰回京。此時皇妃已為國泰說情，有的禦史也從旁附和，和珅亦有意袒護國泰。劉墉遂以民間查訪所獲證據，曆數國泰罪行，據理力爭，終使國泰伏法。後來民間曾據此事寫成通俗小說《劉公案》，對這位“包公式”的劉大人大加頌揚。
幹隆四十七年（1782年），劉墉奉調入京出任左都禦史，在南書房行走。當時和珅炙手可熱，劉墉也隻能“委蛇其間，惟以滑稽悅容其間”，表現出其為人和為官的另一麵：麵對和珅專寵於幹隆，劉墉隻好靜默自守，滑稽模棱取容。
官聲漸晦
幹隆四十八年（1783年），劉墉升任直隸總督、吏部尚書，兼理國子監事務。
幹隆五十一年（1786年），任職玉牒館副總裁。但在此後數年裏，劉墉不斷犯錯，官聲漸不及從前，並多次受到皇帝責備。
幹隆五十二年（1787年）初，劉墉因為漏泄與皇帝關於嵇璜、曹文埴的談話內容而受到申飭，被罷免了大學士職務。八月，幹隆委托劉墉主持祭拜文廟，卻因沒有按規定行一揖之禮受到太常寺卿德保的參劾。幹隆五十三年（1788年）夏，劉墉兼理國子監期間發生鄉試考生饋送堂官的賄賂案，被禦史祝德麟彈劾，劉墉受到處分。幹隆五十四年（1789年）四月，上書房的師傅們久不到書房，劉墉做為總師傅而不予糾正，被降職為侍郎。幹隆五十八年（1793年），劉墉擔任當年會試主考官，卻安排失當閱卷草率，導致違製與不合格的卷子很多。
嘉慶元年（1796年），皇帝破格增補戶部尚書董誥為大學士，而資曆更深的劉墉卻被排斥在外。皇帝向劉墉詢問新選知府戴世儀可否勝任，結果劉墉說可以，實際上戴世儀十分庸劣難以勝任。
嘉慶二年（1797年）四月，劉墉被授予體仁閣大學士，但仍被皇帝指責向來不肯真心實意做事，幹活懶散。並稱是因為沒有其他人了，所以才提拔劉墉。五月，劉墉奉旨偕同尚書慶桂到山東辦案，察看黃河決口的情況，劉墉上書請求在決口處築壩，下遊疏導分流，朝廷采納了意見。
善始善終
嘉慶四年（1799年）三月，劉墉被加封為太子少保，奉旨辦理文華殿大學士和珅植黨營私、擅權納賄一案。劉墉再次展現出不畏權勢的一麵，查明和珅及其黨羽橫征暴斂、搜刮民脂、貪汙自肥等罪行20條，奏報朝廷。嘉慶隨即處死和珅。嘉慶四年（1800年）底，劉墉上疏陳述漕政，對漕運中的漏洞體察至深，憂國憂民之情溢於言表，嘉慶皇帝看後，深以為然。嘉慶六年（1801年），劉墉充任會典館正總裁。嘉慶七年（1802年），皇帝駕幸熱河，命劉墉留京主持朝政。此時劉墉已八十有餘，卻輕健如故，雙眸炯然，寒光懾人。
嘉慶九年十二月二十五日（1805年1月），劉墉於北京驢市胡同家中逝世，享年85歲。去世當天，他還曾到南書房值班，晚上開宴會招待客人，當晚去世。而據《嘯亭雜錄》記載，劉墉死時“鼻注下垂一寸有餘”，暗合佛語中善於解脫之意，可說是壽終正寢、功德圓滿。死後贈太子太保，諡號文清，入祀賢良祠，諭祭葬。