有人怂恿文成帝在平城大兴土木，建造宫殿。高允劝谏，他又给文成帝算了一笔账，如果修造一座太华殿，砍伐木材、输石运土以及种种工匠，就需要壮年劳力两万人，其他供应粮食和打杂的老弱，又该加上一倍的人。一个农夫不耕田，至少一家就要受饥挨饿。国家有四万人不耕田，还要赔上这四万人的吃喝及各种费用，岂不太浪费。文成帝再三深思，觉得他说得有理，就停工不造宫殿。朝廷中如果有什么事办得不太妥善，高允就要求觐见劝谏。文成帝屡屡单独接见，让他畅所欲言，言无不尽。有时他们从早晨谈到日头西斜，甚至连续数天不出内宫，群臣都不知道君臣谈什么内容。高允的话有时说得很痛切，文成帝听不下去，便喊进左右随从，将高允扶出宫去，但始终对他优待尊重。
高允是431年拓跋焘广征各州名士为官，到朝廷任职的三十五人之一，，其中有不少人之后做了大官并封侯。即就高允手下当过官吏的，当时也有近百人做了刺史及太守等官，而高允自己却当了二十七年的中书侍郎，毫无怨言。宗爱杀害拓跋焘，群臣平定叛乱，扶持文成帝即位时，高允也献出不少计谋，出了不少力。之后论功行赏，许多人都升官或得到厚赐，却漏了高允，他始终没有计较。文成帝对群臣说："你们拿着弓刀，天天在我的左右，只会这么站着，从来没有说一句规诫的话；等我高兴的时候，就开口要求加官进爵。你们没有什么功劳，现在不是王就是公侯。高允拿着笔杆，辅佐治理国家二三十年，贡献多么大！到现在仍只是个郎官，你们难道不惭愧吗？"当即拜高允为中书令。
