后周时，张琼隶属于赵匡胤的帐下，以骁勇闻名，曾冒死救过匡胤的性命，因此甚得赏识。
太祖即位后，擢典禁军，累迁为内外马步军都军头、领爱州刺史。光义迁开封尹臣，代为殿前都虞侯，迁嘉州防御使。
当时军校史珪、石汉卿正逢受宠，但张琼却屡次折辱他二人，因此二人对其也是恨之入骨。于乾德元年(965)八月，石汉卿便告发张琼擅乘官马，畜养部曲百余人，作威作福，又诬毁赵光义为殿前都虞候时事。
闻此太祖便召了张琼面讯，不想张琼拒不认罪，太祖大怒，下令让石汉卿用铁击其首，张琼被打的气微垂绝，下御史案查，随后宋太祖下令赐死张琼。不过太祖便很快听说了原来张琼家中并无余财，仅有奴仆三人，太祖知道后非常懊悔。并因此责备了石汉卿：“你说的张琼家那奴仆部曲百人呢，他们在哪里？”太祖命石汉卿优恤其家属，并擢其兄张进为龙捷副指挥使，但斯人已逝，并没有什么卵用。
据《宋史》是这样记载张琼救赵匡胤的：
张琼为宋太祖赵匡胤的手下。一天，张琼随着赵匡胤率兵攻打寿春。正当城上的飞箭射向赵匡胤的时候，张琼奋不顾身用身体挡住了飞箭，那箭直接击中了张琼胯骨。由于箭射太深，很难拔出，于是张琼就喝了一大碗酒，让人破骨将箭拔出并刮骨疗伤，虽然鲜血流淌，但张琼依旧神色自若。从中可看出张琼的气魄，铮铮铁骨啊，可惜了一代忠臣竟然就这样被人诬陷，含冤而死。
