蘇味道少年時便和同鄉李嶠以文辭著名，時稱“蘇李”。高宗幹封年間舉進士，轉任鹹陽尉。
吏部侍郎裴行儉愛其人華，愉逢征計空厥，引薦為管記，行書令及表啟之事。中宗妃之父裴避道重任左金吾懷將軍時，訪才子作謝表，托於蘇味道。蘇揮筆而成，辭理精密，一時盛傳於世。
武後延載元年（公元694年）入朝為鳳閣舍人、檢樣侍郎同鳳閣鸞台平章事。延聖元年（公元695年）與張錫坐法下獄，張錫從容自如，而蘇味道則席地而坐，很少進食，惴惴不安。武後聞知，將張錫流放嶺南，將蘇味道降職為集州刺史，後複召為天官侍郎，聖曆初（公元698年）複為鳳閣侍郎同鳳閣鸞台。因改葬其父侵毀鄉人墓田，役使過度，被彈劾，貶為坊州刺史，又遷益州大都督府長史，後因黨附張易之，受牽連，貶為眉州長史，又遷益州長史，卒於上任道中，贈冀州刺史。
蘇味道入閣擅長章奏。但為相數年以阿諛圓滑而自營，常對人說：“處事不欲決斷明白，若有錯誤必貽咎譴，但模棱以持兩端可矣。”時人由此稱其為“蘇模棱”或“模棱手”，成語“模棱兩可”亦源出於此。