《水浒传》中，自打晁盖智取生辰纲后，济州府就没有一天消停过，太守像走马灯一样换了好几个，直到张叔夜当上了太守。张叔夜上任后采取保境安民的方针。由于他为官清廉，攻守兼备，所以梁山倒也没有进犯济州府“借粮”。而且张叔夜深知梁山的厉害，“此寇潜伏水泊，虽然是山林狂寇，中间多有智谋勇烈之士，”并未与之发生正面冲突。张叔夜对梁山好汉的态度则是力主招安，并不希望刀兵相向，然而官微言轻，只能眼睁睁看着童贯、高俅带着兵马“送人头”。在初次招安、屡次围剿梁山不成后，朝廷终于派来了张叔夜认为能使梁山义士建功立业之人宿景：“朝廷颁诏敕来招安，已是二次。盖因不得其人，误了国家大事。今者太尉此行，必与国家立大功也。”受招安后，宋江为表示感谢以金银相送张叔夜，张叔夜婉谢，可见其廉以律己。张叔夜在《水浒传》中着墨不多，但是一个有才干又有眼光的清官形象已经跃然纸上。
历史上的张叔夜到底是否像水浒中说的那样，是当时官员中的一股清流呢？答案是肯定的，而且《水浒传》毕竟是小说，为了突出梁山好汉的强盛实力，便将张叔夜的能力大打折扣。真相则是张叔夜打败了以宋江为首的梁山起义军，迫使其接受招安；而且他还是一位抗金名将，靖康之难中不幸战败被俘，不甘受辱，自缢而死。
张叔夜文武双全，作为武将能够卫戍边疆，抵御外侮，也能够剿灭贼寇，稳定内局。在兰州戍边时，为使宋朝永不受羌人之患，率兵渡河建西安州，扼守西北边境。张叔夜出使辽国时，与契丹人比射箭，居然首先命中目标，使契丹人十分惊诧。出使回朝后，张叔夜画出了辽国的山川、城池地图，讲述了其服饰、礼仪等。与我们所认识的截然相反的是，以宋江为首的梁山好汉并没有小说中说的那么战无不胜，反而是张叔夜的手下败将。宋江等三十六人在梁山起义之时，张叔夜为海州知州。宣和元年（公元1119年），宋江起义于河朔，活动范围波及数十个城郭，声势浩大，打得官军不敢与之正面交锋。后来，宋江等人不自量力，攻打海州城。张叔夜率近千名死士伏击宋江起义军，烧其船队，并俘虏多人，宋江大败而降，接受招安。也有的说，宋江等人后来被张叔夜斩杀。作为文臣，张叔夜力主改革时弊，不惜得罪当时权贵。张叔夜与他的弟弟张克公曾弹劾蔡京，使得蔡京被迫下台。在中书舍人任上时，为了整治当时官员懒惰之风，改革了“预先签署职衔与姓名，遇事才填写具体内容”的弊端。
张叔夜更应该让人铭记的是他的抗金事迹。张叔夜所处的时期正是北宋两位亡国之君的统治时期，而当时的金国则愈发强大，不时北下骚扰中原。靖康元年，金军大举南下，宋军不敌，接连溃败。张叔夜迂回包抄金军的建议未能被宋钦宗采纳，丧失了破敌良机。直到宋军兵临开封城下，宋钦宗才急调张叔夜率军勤王。金军攻势不断加强，宋军无法南撤，只能死守等待援军。其间，张叔夜率军力战，虽然力挫金军锐气，得到钦宗嘉奖。只是钦宗实在太昏庸，用人不查，任何樐、孙傅为相。这二人受人迷惑，致使金兵进入城中，京城陷落。徽钦二宗都成为了金军的俘虏。
后来张叔夜一直在作顽强的抗争，终因寡不敌众战败被俘。面对金军统帅的威逼利诱，张叔夜大义凛然，不为所动。在被押往金国的途中，经过的地方满目疮痍，都是惨败之状。张叔夜感到家国之恨难雪，绝食抗议，第二天自缢而死，时年六十三岁。公元1138年，宋金议和，张叔夜的遗骸才回到故土。张叔夜不仅像水浒中所写的那样勤政爱民，廉洁自律，更值得称颂的是他的民族气节。
