張憑舉孝廉出都，負其才氣，謂必參時彥。欲詣劉尹，鄉裏及同舉者共笑之。張遂詣劉。劉洗濯料事，處之下坐，唯通寒暑，神意不接。張欲自發無端。頃之，長史諸賢來清言。客主有不通處，張乃遙於末坐判之，言約旨遠，足暢彼我之懷，壹坐皆驚。真長延之上坐，清言彌日，因留宿至曉。張退，劉曰：“卿且去，正當取卿共詣撫軍。”張還船，同侶問何處宿？張笑而不答。須臾，真長遣傳教覓張孝廉船，同侶惋愕。即同載詣撫軍。至門，劉前進謂撫軍曰：“下官今日為公得壹太常博士妙選！”既前，撫軍與之話言，咨嗟稱善曰：“張憑勃窣為理窟。”即用為太常博士。

　　桓玄既篡位，將改置直館，問左右：“虎賁中郎省，應在何處？”有人答曰：“無省。”當時殊忤旨。問：“何以知無？”答曰：“潘嶽秋興賦敘曰：‘余兼虎賁中郎將，寓直散騎之省。’玄咨嗟稱善。

　　張蒼梧是張憑之祖，嘗語憑父曰：“我不如汝。”憑父未解所以。蒼梧曰：“汝有佳兒。”憑時年數歲，歛手曰：“阿翁，詎宜以子戲父？”