程万里道：“张叔夜出生于官宦世家，侍中徐国公张耆之后，少时就喜谈军事，长大后以祖荫入仕任兰州录事参军。兰州依恃黄河天堑为固，每年冬天黄河结冰时，都要处于戒备状态，以防羌人入侵，张叔夜认为长此以往不是办法，于是亲自过河勘察，发现有一个叫‘大都’的地方，是五路之间的要冲，羌人每次入侵，都先要在此地集结，张叔夜根据附近地势，夺得大都，在大都建了一座叫做西安州的可戍守的城池，以此扼守西北边境，张叔夜此举有力地遏止了羌人的侵袭，为朝廷缓解了边疆不安定的忧患，同时也免除了以往士卒濒河困守、累月不得解甲的劳顿之苦，从此兰州再也没有羌患。
此后张叔夜担任过襄城、陈留知县，以及舒、海、泰三州知州。大观年间为库部员外郎、开封府少尹。不久后又赐进士出身，迁右司员外郎。
张叔夜曾出使辽国，与辽人比射箭，首先命中目标。辽人惊诧，想查看他所引的弓。张叔夜以无前例为由拒绝。出使归来后，张叔夜画出辽国的山川、城郭、服器、仪范等资料，上呈官家。
张叔夜从弟张克公曾弹劾蔡相公，使得蔡相公被迫下台，蔡相公因而与张氏结仇，并迁怒于张叔夜，暗中搜集张叔夜的过错，将张叔夜贬为西安草场监司