张居正在进行政治、经济等方面的改革时，积极推行“外示羁縻，内修战备”的方针，重视整饬军备，加强边防。张居正曾目睹了嘉靖二十九年(1550年)俺答军队围困北京时所暴露出来的国防虚弱，军备废弛的种种弊端。 有鉴于此，待他执政后，“殚心尽力”，决心对边防进行一番整顿。
张居正一面精心选任驻边将领，练兵备战，修治边防要塞，同时训令诸将在边境屯积钱谷，整顿器械，开垦屯田，务必做到兵精粮足，战守有备。
在选任边将时，张居正所重用和信赖的一批守边将领，并为保卫边防做出重大的贡献。在蓟州一带，他任用戚继光镇守，练就守边的精兵，修筑了沿边防线的“空心敌台”，还因地制宜地练习车战战术，保卫了东起山海关、西至居庸关长城一带沿线的边防。历史家称赞戚继光镇守蓟州十六年，“边备修饬，蓟门晏然”，戚继光也深得人民的拥护和爱戴。李成梁镇守辽东的纪功石坊万历十一年(1583年)，当戚继光移镇广东时，陈第赋诗送别，诗云：“谁把旌麾移岭表，黄童白叟哭天边。”反映了边境人民对戚继光保境安民功绩的景仰和舍不得让他离去的深情厚意。
在辽东，张居正重用李成梁。李成梁作战能力高强，善于指挥御敌，威望甚高。在他镇守辽东期间，曾多次平息东北少数民族的进犯，保卫了东北边境的安宁。
特别值得一提的是在北部的宣府、大同防线，西至延绥、宁夏一带，张居正重用王崇古，支持王崇古对俺答所部采取的安抚睦邻政策，获得了重大的成绩，使蒙汉两族人民和睦相处，通好互市，相安无事。
当时朝廷有一部分官僚反对和俺答设市贸易，说这是媾和示弱。但是张居正力排众议，坚持正确的主张。他据理力争，反驳说：“让俺答入贡通好，开设边境市场，使边民互通有无;限立期限，指定地点，严加管束，这不但没有坏处，反可使边境安定，屯田耕牧，阻止塞外其他部落的侵扰。这样每年可以节省调援边塞的大批粮食，有什么不好呢？”
由于张居正的大力支持，协同筹划，使王崇古在边塞得以顺利执行睦邻政策，在大同、宣府附近设市贸易。当时规定每年限期一月，蒙族人民可以用金银、牛马、皮毛和汉族人民交换绸缎、布匹、铁锅、铁釜等物品。双方各派军队驻守保护，从此边境相安无事。对此，张居正在《九塞称臣》一诗中踌躇满志地写道：“幕南秋色静王庭，月满边关夜不扃。北地胡儿能汉语，西陲宛马尽龙形。屯田督护休乘障，破虏将军早勒铭。干羽两阶文德洽，九重端拱万方宁。”
“月满边关夜不扃……九重端拱万方宁”，并非张居正的无端夸饰。据《明史》记载：东起延永，西抵嘉峪关的边境千里防线，“军民乐业，不用兵革，岁省什七”，从而节省了庞大的军费开支。
张居正还在东南沿海地区分段设寨，修整兵船，严申海禁。在他当政的万历初年，基本上肃清了多年以来一直困扰明廷的“南倭北虏”的边患。
