早年經曆
上官儀自幼隨父親上官弘遷居江都（今江蘇揚州）。大業十四年（618年），上官弘在江都之變中遇害。上官儀因藏匿得以幸免，為求避禍，自行披剃為僧。他研習佛典，精通《三論》，而且涉獵經史，善做文章。
累職拜相
貞觀年間，上官儀得到揚州都督楊仁恭的器重，並入京參加科舉考試，考中進士，被授為弘文館直學士，累遷至秘書郎。當時，唐太宗常命上官儀起草詔諭，還讓他參與宮中宴集，侍宴賦詩。
貞觀二十二年（648年），宰相房玄齡、褚遂良等人修成《晉書》。上官儀因曾參與《晉書》修撰工作，被改授為起居郎。
貞觀二十三年（649年），唐高宗繼位，上官儀又升任秘書少監。
顯慶元年（656年），唐高宗立五子李弘為皇太子，後任命上官儀為太子中舍人。
龍朔二年（662年），上官儀升任西台侍郎、同東西台三品，成為宰相，又加銀青光祿大夫，仍兼弘文館學士。
含冤遇害
麟德元年（664年），皇後武則天引道士入宮，行厭勝之術，被宦官王伏勝告發。當時，唐高宗常被武則天壓製，對她已有不滿，意欲將她廢為庶人，便密召上官儀商議。上官儀道：“皇後專橫，海內失望，應廢黜以順人心。”高宗便命他起草廢後詔書。武則天得到消息，向高宗申訴辯解。高宗又不忍廢後，因怕武後怨怒，便道：“這都是上官儀教我的。”
同年十二月（665年1月），武則天指使親信許敬宗，誣陷上官儀、王伏勝勾結廢太子李忠，圖謀叛逆。上官儀曾在李忠的陳王府擔任諮議參軍，與王伏勝一同事奉過李忠，因此遭到誣陷。不久，上官儀下獄，與兒子上官庭芝、王伏勝一同被處死，家產抄沒。李忠也被賜死於貶所。從此，唐高宗大權旁落，朝政完全由武則天掌控。
上官儀遇害時，孫女上官婉兒尚在繈褓，與母親鄭氏一同被沒入掖庭，充為官婢。她生性聰穎，逐漸得到武則天的重用，被引為親信女官，掌管宮中製誥。
神龍元年（705年），唐中宗繼位，上官婉兒被冊為昭容。上官儀得以平反，追贈中書令、秦州都督、楚國公，並被以禮改葬。