“在东北，以张作霖为首的奉系军阀逐渐在吉林、黑龙江两省扩展地盘，它在日本帝国主义的扶植下，成为直皖之间举足轻重的势力。”这是人民教育出版社的历史教科书《中国近代现代史》上册第四章第二节《军阀割据下的中国政局》中对张作霖的评价——反动军阀、封建军阀也是长久以来贴在张作霖身上的标签。
事实上，被日本扶植成为“东北王”，又在皇姑屯被关东军炸死，这些与日本错综难明、纠葛不清的恩怨，正是张作霖一直饱受争议的原因之一，也是长久以来学界、民间争论不休的焦点——痛斥其卖国的有，为其辩护的也不少;有人认为他是日帝的傀儡，也有人认为他是不乏民族气节的野心家。
骑在墙头，哪边强就往哪边倒
1980年出版的《张作霖》一书在当时被认为是第一本“较为系统、详细的张作霖传记”，而在这本书的《前言》中，作者东北师范大学的常城教授如此描述自己记述张作霖一生的目的：“使人们特别是青年同志们具体了解旧中国军阀黑暗统治的一个侧面。”
书中记录了1912年1月，当时是奉天巡访营前路统领的张作霖访问日本驻奉总领事落合的情景。在会面时，张作霖表达了与日合作的愿望，他对落合说：“我深知日本在满洲有许多特权，日本如果对我有所吩咐，我一定尽力而为。”
而在自己的一篇名为《张作霖是怎样在东北称王称霸》的论文中，常城表示“骑在墙头看哪边强就往哪边倒”是张作霖壮大自己的一贯策略。如此做派在知名历史博主萨沙的《民国最成功的马匪张作霖》一文中也有记录：袁世凯称帝时，张作霖表示拥护，袁世凯很高兴，对其加官晋爵，张作霖掌管了辽宁省，实际上成了东北一方的诸侯。在奉系崛起初期，没有读过书的张作霖常常自比李渊，为给“张家王朝创基业”，他还让张学良读《贞观政要》，学学李世民。
关于张作霖与日本合作，萨沙也透露了这样的细节：张作霖在各种场合表达亲日立场，多次镇压东北的抗日运动，在经济上也有诸多妥协。作为回报，日本在1916年通过朝鲜银行奉天支行贷款给张作霖300万。在第一次直奉战争中，张作霖在沈阳穷途末路，只剩1万多人，甚至已经考虑放弃东北逃亡。日军偷偷出兵助攻，派了1万人防御沈阳，又派遣一个师团突击正全力攻击沈阳的郭松龄军团的后路，而这也直接促使张作霖日后与日本签订了《日张密约》。
“对张作霖这样的反动军阀，既不能称之为‘豪杰之士’，也不能看作反日的‘英雄’。他的一生，是反动的一生，祸国殃民的一生。”在《张作霖》一书中，常城如此总结道，在张作霖于皇姑屯被日军炸死一节中，常城在书里用“可卑的下场”作为标题总结，认为他是失去了利用价值被日本抛弃。
不甘心当汉奸出卖东北
对于张作霖与日本的暧昧关系，常城的言辞代表了一派观点，也引起了学界的相关争论，许多学者对这种观点并不认同。
历史学者丁雍年于1982年5月在《求是学刊》上发表了一篇名为《对张作霖的评价亦应实事求是》的文章，文中补充了一些张作霖对日交涉的细节，证明张作霖“是不甘心当汉奸出卖东北的”——1927年10月15日，日本逼张作霖签订关于五条铁路的密约，张作霖仅仅批了个“阅”字敷衍了事。在利用日本掌握东北后，张作霖对日本也一直采取阳奉阴违的态度，这让日本方面很不高兴。日本参谋部中国部部长松井石根曾背地里议论他：“这个家伙难弄得很，始终不听话。”
“一直对日军保有一种土匪式愤恨”——这是萨沙对于张作霖内心同日本真实态度的描述，如此结论来自于张作霖当时同日本的一次针锋相对——与日军同盟时，张作霖的军营驻扎在距沈阳100多公里外的新民府。他手下的兵在逛沈阳的日本妓院时与日本兵斗殴，寡不敌众被打死了两人。张作霖大怒，找到日本方面要求杀人偿命。日本军官依照惯例，一人赔偿了500两银子。张作霖拿了1000两银子回去后，召集手下上街打死三名日本兵。他的士兵都是刚被收编的土匪，当即冲上街头，找了三个日本兵殴打致死。当日本军官怒气冲冲地前来质问时，张作霖甩出1500两银子说，这是“按照你们的惯例”。
如此的针锋相对并非仅此一次——在当时的东北，日本控制了两个港口和南满铁路，在沿线全部驻扎军队。为了削减日军势力，张作霖造了一条与南满铁路几乎平行的新铁路线。这让日本极其恼火，在1927年的“东方会议”上，要求他立刻停止修建这条铁路。张作霖不便公然唱反调，于是煽动民众在沈阳长春搞反日运动，日本人精力分散，对铁路修建的干涉也不了了之。
鲁东大学教师戴振毅在《中国近代史及史料研究》杂志上发表的《试论张作霖与日本人的关系》一文也有类似的事件描述——张作霖不仅在日本的东北驻军军营周围驻扎了自己的重兵，还要保证数量的绝对优势，日本驻军1000人，他就放兵10000人。在被迫同意日本侨民在东北的居住权后，张作霖还用同样方式来制约日本移民的数量。他从山东召来大量人口移民东北，日本人移民1人，他就从山东补进5人。他还暗地禁止中国居民出租房子给日本人，移居东北的日本侨民没有房子住，只能一大堆人挤在一间小房子里。日本原计划在10年内让日本人成为东北居民的多数，但在张作霖的阻挠下，始终未能实现。
土匪无赖式的敷衍，这是张作霖在面对日本方面的压力时最常采用的行为模式。根据台湾中央研究院学者梁敬錞描述：“日本对张作霖，怨悦交并。张作霖对于日本，虽甚富友谊，然日本欲其出卖国家，则非张作霖所能忍受。”戴振毅在《试论张作霖与日本人的关系》一文中记录的另一件事也足以说明这一点——日本派公使芳泽与张作霖商谈“解决蒙满诸悬案”问题，在交谈中张作霖频频推脱装糊涂，芳泽恫吓说济南死了13个日本侨民，张作霖需要对此负一切责任。根据周大仑《张作霖皇姑屯被炸事件亲历记》中回忆，张作霖当时“勃然大怒，立即由座上站起来，把手里的翡翠嘴旱烟袋猛力地向下一摔，磕成两段，声色俱厉地对芳泽说：‘此事一无报告，二未调查，他妈拉巴子的，岂有此理！我这个臭皮囊不要了，也不能做这种叫我子子孙孙们抬不起头来的事情’。”
怒骂日本公使后的第16天，1928年6月4日凌晨5点30分，张作霖被关东军炸死在皇姑屯。
两个张作霖
张作霖死后，当时的舆论大多表达出了对他的谅解和同情。
天津《大公报》1933年3月13日刊登社论称：“张作霖雄踞关东手创霸业者十五年，亲日卖国，丛谤一身。然终张之世，虽与日人曲尽周旋，于国土之权，则保持匪懈，故率攫日人之怒。皇姑屯一弹，身虽惨死，心迹则大白于天下。”北京《晨报》也于1933年1月23日刊文称其“殉国难于皇姑屯，秘幕为国人所知，因而取得谅解。”
历史学家陈崇桥也在《关于张作霖的评价问题》中颇为体谅地如此描述张作霖：“遇事与日本周旋，势所必然。努力支撑危局，确有其难处，不能把他与日本的某些周旋，统统视为媚日卖国。”
相比较学界各方的据“例”力争，普通民众对于张作霖的认识则多来源于影视文学作品。于是，他们也大多会看到两个张作霖：一个是带有土匪特质见风使舵、时时准备实现利益最大化，大老粗式的军阀统帅，另一个则会在逢年过节时穿上长衫去学校向老师打躬作揖，还会亲手枪毙拿路灯当靶子的无赖小舅子，并给日本人手书“手黑”表示“寸土不让”，而他对东北经济教育的大量投入至今仍令东北民众津津乐道。
张作霖到底是一个什么样的人？对于这个复杂的问题，英国学者加文·麦柯马克在《张作霖在东北》一书的说法或许可以作为答案之一：“张作霖比一个纯粹的傀儡还多些什么;但却比一个民族主义者少些什么”
