康熙帝巡视江苏丹阳，当地官民请求治河并提出了具体方案。康熙帝责成张玉书与河道总督共同审核。他们亲临现场,逐项落实。康熙帝十分满意，认为张玉书有才，遂于二十九年授他为文华殿大学士兼户部尚书，成为当朝宰相。
三十五年（1696年），康熙帝亲征噶尔丹，张玉书随驾亲征，参与帷幄，是随征的唯一汉臣。在他的参与下，康熙帝采取以逸待劳、诱敌深入的战术，以最小的代价取得了平息叛乱的决定性胜利。班师后，朝廷举行了盛大的庆功典礼，张玉书率领百官上贺。次年，张玉书奉命充任编修《平定朔漠方略》总裁官，主持记述他曾亲自参与的平定噶尔丹叛乱的始末。三十七年七月，张玉书之母染病，他回家探视，康熙帝手书《金刚经》五部以赠其母，并赐御食鹿尾。及谢世，康熙帝又复遣官赐祭，并御书“松荫堂”匾额。
虽然《康熙字典》字收录的很多但是出现的错误也很多，如果把不同时代人们发现《康熙字典》的错误汇总起来，即使去除重复的仍然高达2万多条。其错误主要有：字头重出、注音失误、释义古今杂糅、释义错误、缺漏义项、引用书目或篇名错误、年代误记、引书断句错误、引书正文与注文混淆、妄改原文、杜撰注文等。
