《论衡》记载了有关皋陶用獬豸治狱传说：獬豸“一角之羊也，性知有罪。皋陶治狱，其罪疑者，令羊触之，有罪则触，无罪则不触。故皋陶敬羊”。皋陶决狱明白，执法公正。遇到曲直难断的情况，便放出独角神羊，依据獬豸是否顶触来判定是否有罪。
传说皋陶制定了我国一部《狱典》，皋陶把《狱典》刻在树皮上，呈给大禹，禹看后觉得可行，就命皋陶实施。《狱典》归纳了偷窃、抢劫、奸淫、杀人等多项犯罪的轻重，给予不同的量刑。因此被奉为中国司法鼻祖。 据东汉《论衡·是应》记载，汉代衙门里供奉皋陶像、饰獬豸图。即掌管刑法的官员。衙门中画皋陶、獬豸，表示明辨是非，执法公正，还含有威慑邪恶的意思。
皋陶因为协助大禹治水和管理刑法功绩突出而曾被大禹选定为继承人，（民间传说皋陶活了106岁）先禹而逝。
