自明开国以来，一直存在倭患，嘉靖时期，倭患已经愈演愈烈。嘉靖二年，日本两批使臣先后来华朝贡贸易，因市舶司的太监对待不公，互争贡使资格，引发大规模的仇杀，史称"争贡之役"。此后不久，明朝罢市舶司，并严申海禁。正常的贸易渠道被堵死，在暴利的诱惑下，更多的亡命之徒铤而走险，攻城略地，烧杀抢掠，无恶不作。嘉靖年间，东南沿海地区的倭患骤然加剧，浙江和南直隶为甚，沿海百姓生活在水深火热之中。
在此背景下，胡宗宪出任浙江巡按监察御史，可见朝廷对他寄予厚望。胡宗宪也感到责任重大，临行前立下誓言："我这次任职，不擒获汪直、徐海，安定东南，誓不回京。"上任伊始，胡宗宪针对辖区内明朝官兵纪律松弛、软弱涣散的积弊，以严明赏罚为手段，大力进行整顿。通过胡宗宪的努力，明朝官兵的军容、军纪有了改观，士气也逐渐有所恢复。
不久，工部右侍郎赵文华受内阁首辅严嵩的推荐，以祭海神的名义，被派往江南督察沿海军务。赵文华是严嵩的义子，为人奸诈骄横。他排挤、陷害忠良，浙江总督张经、浙江巡抚李天宠都先后因其陷害而被杀。如何和这种人搞好关系而不致于误了正事，胡宗宪对此非常清楚。因此在与赵文华共事的过程中，胡宗宪谨慎小心，有时甚至行事圆滑，最后不仅没有受到赵文华的阻挠，还得到了后者的赞赏。在赵文华的大力推荐下，世宗很快就擢升胡宗宪为兵部左侍郎兼都察院左佥都御史，又加直浙总督，总督浙江、南直隶和福建等处的兵务。此时，胡宗宪可以调遣江南、江北、浙江等省重兵，所掌握的权力要比一般总督大得多，他儿子和他因此也较贪。
胡宗宪知道自己大展宏图的机会来了。他一方面招揽、重用各种杰出的人才，如重用俞大猷、戚继光等名将，把颇负盛名的文人徐渭招到自己的幕府中来;另一方面，有骁勇善战的将领，还得有训练有素的士兵，胡宗宪支持部下练兵，其中成就最大者当属戚继光训练的戚家军，后来发展为抗倭主力军。在胡宗宪的抗倭斗争中，胡宗宪擒汪直、杀徐海，两浙倭患暂告平息。
至嘉靖四十一年，胡宗宪主持的抗倭斗争取得了前所未有的胜利，渐次平息浙江的倭患，并开始剿灭福建的倭寇。
嘉靖四十一年五月，内阁首辅严嵩被罢官，其子严世蕃被逮。胡宗宪是由严嵩义子赵文华的举荐而屡屡升迁的，很多大臣的眼里，他属于严党。赵文华已死，严嵩失宠，胡宗宪的处境也就岌岌可危。这年年底，在新任内阁首辅徐阶的授意下，南京给事中陆凤仪就以贪污军饷、滥征赋税、党庇严嵩等十大罪名上疏弹劾胡宗宪。王世贞曾说："我知道胡宗宪的功劳，可他被徐阶所压制，不能表白他的冤屈。"看来，这一切都是新任内阁首辅徐阶直接操纵的，胡宗宪自然无力与其抗衡。
