狄仁杰在复州任刺史一年。永昌元年七月,洛州(治今河南洛阳东)司马弓嗣业被杀,此职遂空缺。次月,张光辅被杀,大约于此时狄仁杰又被调任为洛州司马。此后,朝中连续兴起大狱,一批重臣相继被杀。宰相中除了内史张光辅外,被杀的还有地官尚书、检校纳言、同平章事魏玄同。魏玄同与已故宰相裴炎关系亲密,当时人因两人友善始终不渝,“谓之耐久朋。”酷吏周兴遂诬陷魏玄同,说他讲过:“太后老矣,不若奉嗣君为耐久。”武则天大怒,将魏玄同处死。周兴之所以诬陷魏玄同,是其早年积下的宿怨。周兴任河阳(今河南孟州)县令时,曾协助狄仁杰从太原(治今山西太原西南)督运粮食到洛阳,结果损失了万余斛粮,本来要处以死刑,经魏玄同解救而获免。在此之前高宗曾下诏召见周兴,欲加重用,此事发生后当然不再有升迁的可能。周兴不知内情,仍然频频到朝堂听命。魏玄同遂对周兴说:“明府可去矣,毋久留。”这本来是句关照的话,但周兴却认为魏玄同在压制他,使其不能升迁,心中怨恨,至此借机报复,使魏玄同冤屈而死。
天授元年(690)一月,地官尚书、同凤阁鸾台三品韦方质被武承嗣、武三思、周兴等诬陷,抄没其家,流放儋州(治今海南儋州西北)。三月,特进、同凤阁鸾台三品苏良嗣死。四月,春官尚书、同平章事范履冰因荐举人不当,下狱而死。八月,纳言裴居道被杀。十月,检校内史宗秦客被贬。内史邢文伟受牵连也被贬官,遂自杀。天授二年(691)一月,纳言史务滋被来俊臣诬告,史务滋恐惧自杀。九月初,鸾台侍郎,同平章事傅游艺为人所告,下狱后自杀。如此之多的宰相接连被杀被贬,实在骇人听闻。虽然武则天也任命了武承嗣、武攸宁等亲属及数位亲信为宰相,然而这些人多是善于献媚的小人,并无实际政治才干。为了充实中枢决策机构的力量,遂将狄仁杰提升为地官侍郎、判尚书、同平章事。同时充任宰相的还有冬官侍郎裴行本。
狄仁杰拜相之后,武则天大概觉得以前将他无辜贬黜,有些过意不去,便对狄仁杰说:“卿在汝南,甚有善政,卿欲知谮卿者名乎?”是指狄仁杰从豫州刺史任上被贬为复州刺史之事。狄仁杰回答说:“陛下以臣为过,臣请改之;知臣无过,臣之幸也,不愿知谮者名。”对于狄仁杰的气量,武则天深加叹赏。其实这也正是狄仁杰的聪明之处,他如果表示希望知道诬陷他的人名,就说明其对被贬之事仍耿耿于怀,不利于取得武则天的信任。他越显得对往事满不在乎,就显得气量愈大,反倒能收到意想不到的益处。他在豫州顶撞张光辅后不久,就遭到贬黜,诬陷者是谁狄仁杰心里是十分清楚的,这时张光辅已被诛戮,再提此事已没有多大的意义,所以狄仁杰也就不愿再加深究了。