1917年4月出生在安徽省靈壁縣一個普通農(nóng)民家中,張衍少年時期就向往革命,“九·一八”事變后參加了學生抗日義勇軍,1935年參加了學生救國會,聲援“一二·九”學生運動。1937年奔赴延安,進入延安抗日軍政大學學習。年輕的張衍風華正茂,積極上進,成績優(yōu)異,畢業(yè)后遂留校任政治教員,1938年加入中國共產(chǎn)黨。歷任抗大總校政治教員、主任教員、六分校政教科科長,八路軍前方指揮部情報處科長,民主建國軍政治部組織部部長,晉冀魯豫野戰(zhàn)軍9縱敵工部部長,豫西軍區(qū)第5軍分區(qū)副政委,中原軍政大學政治部副主任,第二野戰(zhàn)軍軍政大學政治部宣教部部長。
建國后,張衍曾擔任西南軍政大學政治部副主任,第二高級步兵學校政治部主任,軍事工程學院政治部副主任、主任。1965年~1978年任我?!娛码娦殴こ虒W院政治委員,西北電訊工程學院黨委書記,1978年后歷任國防科委副主任兼國防科學技術大學校長,國防部第十研究院黨委書記,國家計委副主任,國防科委副主任兼國防科技大學校長。
張衍將軍是第六、第七屆全國政協(xié)委員。曾榮獲二級獨立自由勛章、一級解放勛章和獨立功勛榮譽章。
1961年晉升為少將。2003年8月在北京病逝,享年86歲。