汉文帝刘恒前三年，也就是公元前177年，张释之被任命为廷尉。《资治通鉴》卷十四上记载了关于他的两个故事。
一
有一天，汉文帝出行经过中渭桥。突然，有一个人从桥下跑出，惊动了龙辇上的马匹，车驾震动。文帝大怒，于是命令骑士追捕，并将这个人送交廷尉治罪。
张释之接到这个“案子”，经认真处理，向汉文帝奏报处置意见：“此人违反了天子出行时清道止行的规定，当处罚金。”
汉文帝阅后发怒说：“此人直接惊了朕龙辇上的马，要不是这匹马脾性温和，后果不堪设想！可张廷尉却仅判他罚金！”
张释之入朝禀奏：“法，国之公器。这个案子依据现在法律的规定就应该这样定罪处罚，如若加罪重判，，法律就不能取信于民众。”
过了一会儿，张释之接着说：“在此人惊动马匹之际，如果皇上派人将他杀死，也就算了，因为这是天子的命令。但现在，这个人已经交给了廷尉，廷尉是天下公正的天平，稍有倾斜，天下用法就可轻可重，没有标准了，那天下的老百姓该怎样作出各种行为呢？！请陛下深思。”
汉文帝思虑半晌，说：“廷尉的判决是对的。”
二
过了一阵子，有人偷盗了祖庙汉高祖刘邦神位前的玉环，被抓捕到案。汉文帝大怒，交给廷尉治罪。
张释之严格按照“偷盗宗庙服御器物”的相关律条，判处案犯在街市公开斩首。
汉文帝大怒说：“此人竟敢盗窃先帝器物，实属大逆不道！朕将他交给你张廷尉审判，是想你将他诛灭全族，而你却仅判他一人死罪，这是违背朕敬奉宗庙的本意的。”
张释之见皇帝震怒，免冠顿首谢罪说：“将此一人判处死罪，就已经够了，因为依法就应该这样判。况且，同样的罪名，还应当视情节轻重区别对待。今天此人偷盗宗庙器物被灭族，若万一来日有愚昧无知之徒，从高祖的长陵上取了一抔土，陛下您将怎样给他加以更重的处罚呢？”（因为已经没有比诛灭全族更重的处罚了）
文帝默然，向皇太后说明了情况，批准了张释之的处置意见。
