当时的武则天正为李唐宗族一事烦心不已，诛杀李续时虽然打着他谋反的旗号，但毕竟自己身份尴尬，还会有很多人说她是为了肃清李氏而诬陷李续。来俊臣的到来解了她的燃眉之急，给了她处死李续以名正言顺的理由。
武则天看到了来俊臣的才华，特意赦免他的罪过，并任命他为侍御史。这位本是囚徒的恶徒，竟就这样摇身一变成为武则天面前的红人。
来俊臣咸鱼翻身之后，成为武则天的臂膀。在他任职期间，这个囚徒出身的酷吏可以说是无恶不作，制造了各种冤案。因为做过囚徒，他更能切身体会受刑之人的心理。基于此，他发明了各种各样、花式百出的酷刑，这些酷刑的名字新颖，样式却是十分惊悚。很多无辜之人，正是挨不过这样的酷刑，只好委曲求全的招供。
说起来，来俊臣真的不是一个省油的灯，他在得武则天重用的这段时期，随着权利的增长，他变成了一个十足的得志小人。朝堂之上，只要是他看不惯的官吏，总会遭到恶毒报复。只要他愿意，任一大臣都难逃被他诬陷而深陷牢狱的结局。
当然，在来俊臣制造的诸多冤案中，有很多是为武则天服务的。那些个受到清理的人，占一部分都是武则天为政道路上的绊脚石。只是，来俊臣太过狠辣，在治罪武则天所交代的人时，常会坐连其族。在被来俊臣所杀的人中，有李唐宗室，有朝廷官员，到了后来，当他自觉羽翼丰满之后，甚至将魔掌伸向了武氏一族。
来俊臣杀死了太多冤枉的人，，他的恶名即便是在民间亦是如雷贯耳。他的权力越大，死在他手下的人越多，上至王孙贵族，下至黎民百姓，大家对他的憎恨就越大。
就这样，到了公元697年，因来俊臣想打武氏诸王和太平公主的注意，从而被后者先下手为强，将其下到牢狱。最终，武则天下令将其处死。就此，武则天手下第一号替罪羊死了。
有趣的是，为了泄民愤，来俊臣被武则天下令斩于闹市示众。他死之后，百姓因太过痛恨他的缘故，气愤不过，竟就争相向前剐其尸体，直至来俊臣的尸身上只剩下白骨。（典自《旧唐书》：“国人无少长皆怨之，竞剐其肉，斯须尽矣。”）
来俊臣大概是史上少有的死后被千刀万剐的人。
