張惠言先祖自宋初由安徽滁州遷至武進，因之而為武進人。出生世代業儒的貧寒家庭，從七世祖張典以下到他的祖父張金第、父親張蟾賓都以教授鄉裏為謀生方式。張惠言四歲喪父，生活貧寒，賴其母薑氏與姊觀書（長惠言四歲）作女工，將他與遺腹而生的弟弟張翊（後改名琦）撫養成人。據其《先妣事略》記載，張惠言九歲離家，至常州城中依伯父張思楷讀書。“一日暮歸，無以為夕飧，各不食而寢。遲明，惠言餓不能起，先妣曰：“兒不慣餓憊耶？吾與爾姊爾弟時時如此也。”惠言泣，先妣亦泣。”其早年的艱難困苦於此可見一斑。
迫於家貧，年十四，即為童子師。幹隆四十一年（1776）娶國子監生吳承紱之女為妻。次年，補縣學附生，開始科舉之路。幹隆四十四年（1779）試高第，補廩膳生。幹隆五十一年（1786）高中舉人。幹隆五十二年（1787）赴禮部會試，中正中榜。中正榜是從當年會試落第者挑選合乎要求者，任命為內閣中書或國子監學等職。張惠言考取了景山宮官學教習，教授內務府佐領以下官宦子弟，開始了長達八年的教學生涯。教學之餘，與鄧石如、陸以寧、吳德旋、孫星衍切磋古文詞賦，與楊隨安交流易學，學術境界得到提升。幹隆五十九年（1794）奔母喪，兩年後，應時任富陽縣令的摯友惲敬之邀，至浙江富陽縣編修縣誌。未等縣誌修成，惲敬調任貴州江山縣為官，張惠言至歙縣，在江承之家授館收徒。嘉慶二年（1797），易學著述相繼問世。與張琦合編影響深遠的《詞選》。
嘉慶四年（1799），第七次會試，中二甲進士，改庶吉士，充實錄館纂修官。六年（1801）四月，散館，奉旨以部屬用，朱珪奏改翰林院編修。嘉慶七年（1802）六月，卒於官，年四十二。