隋文帝死后，隋炀帝杨广即位。韦云起被任命为通事谒者。通事谒者类似于今天的外交官。就在隋炀帝刚刚即位那年，发生了一件大事：契丹侵扰营州，烧杀抢夺，无恶不作。
是可忍孰不可忍。隋炀帝决定向契丹发起反击。他把任务交给韦云起。由于契丹离隋朝本土太远，千里迢迢地劳师动众前去征伐，成本太高。韦云起就按照隋炀帝的诏令，找到突厥首领启民可汗，要求借兵。那时候，突厥还臣服于隋朝。启民可汗就给了2万骑兵，在韦云起的率领下，前去征讨契丹。
兵贵神速，这是一次长途奔袭行动，韦云起将2万骑兵分成20营，兵分四路一起出发。每营相距一里，不得交杂。闻鼓声而行，闻角声而止。韦云起特别命令，除非公事派遣，任何人不得在行进时驰马。一名突厥士兵违反了这道命令，被韦云起果断斩杀并示众。
在那以后，突厥将帅对韦云起很敬畏，不敢有丝毫冒犯。
契丹向来依附于突厥，见到突厥军队倒也不奇怪。韦云起又故意蒙蔽他们，进入契丹境内后放出消息声，称是借道去柳城（今辽宁朝阳南），降低契丹人的心理防备。为了配合这种宣传，韦云起率部抵达契丹大营100里后，假装转向南方而行。行了一段路程，到晚上时，韦云起下令转回来，杀向契丹大营。
得胜回朝皇帝夸
契丹这次侵扰营州，是一次试探行为。他们想试探隋朝王朝的底线，这种小规模侵袭，会不会引来他们的报复？答案是：没有。因为过了好几个月，隋朝境内都没有什么响动。这让他们弹冠相庆，自然而然地放松了警惕，放心地享用从隋朝营州抢夺的胜利品——直到韦云起借来的2万突厥骑兵神兵天降一般出现在他们面前。
毫无疑问，韦云起带着2万突厥骑兵对契丹一阵猛攻，打得他们完全没有还手之力。战果也是辉煌的，“尽获其男女四万口，女子及畜产以半赐突厥，余将入朝，男子皆杀之。”是说抓获了4万男女。女子和牲畜的一半赐给突厥，作为奖赏，剩余的带回朝廷；至于男子，全部杀掉！
这一战，韦云起将契丹打得服服帖帖，再也不敢南下侵扰。
韦云起不花费隋朝一分钱军费，也不动用一兵一卒，就打服了契丹。隋炀帝很高兴，表扬韦云起“用突厥而平契丹，行师奇谲，才兼文武，又立朝謇谔”，亲自推举韦云起为治书侍御史。这一种什么样官职呢？是御史台的常务副职，主持日常工作，类似于现代的国家监察部常务副部长。
