嘉靖三十七年，义乌发生矿夫和乡团大规模械斗。浙江处州，是明代银矿丰富的地方，聚居大批农民出身的矿夫。义乌县南的保山富于银矿，这一年，处州的矿夫流徙到保山开矿，和义乌势家大族陈大成为首的乡团发生武装冲突。械斗进行了三次，规模越来越大，所聚人员各有数千人之多。双方伤亡的人更是不计其数。
戚继光从这场械斗中看到，即使乡团作战也比官军勇猛，他提出要到义乌招募农民和矿夫为新兵，加以训练，让他们把自相火并的力量用到消灭倭寇的斗争中去。正在这时，义乌县令赵大河也上书要求戚继光亲自到义乌招集争斗双方的农民和矿夫参军，以抗击倭寇。这个建议正好和戚继光的想法一样。于是，戚继光决心亲自到义乌招募新兵。消息一传开，议论纷纷，不少人认为乡团和矿夫都是“罪人”，招募“罪人”参军无异于“病狂丧心”。但是当时抗倭名将台州知府谭纶却支持戚继光的设想。
戚继光于第二年，即嘉靖三十八年到义乌募兵。但是，募兵也不顺利，他贴了一份题为《谕以君父水土之恩》的布告，号召农民、矿夫丢掉前隙，共同起来保卫家乡，抗御倭寇。但是布告贴出之后，并没有人响应来应募。后来了解，双方的头目和农民、矿夫都在观望。戚继光一面向他们说明在这里募兵的原委，一面晓以民族大义。其实，不论是乡团首领陈大成还是矿夫首领王如龙都不存心和戚继光为难，他们历来对这位抗倭将领，抱有敬佩之心。所以，听戚继光陈明募兵原委以后，陈大成和王如龙都各自率领乡亲和矿夫前去应募，两支相为仇敌的队伍都成为戚家军的骨干，为抗倭事业作了杰出的贡献。
戚继光从应募的人员中挑选了四千多名，带回绍兴，经过两个月的严格训练，建立了一支军纪、法度比较熟练的部队。建军应以卫民为目的，戚继光首先教育新战士，建立这支队伍是为了保卫家乡的安全。他对新战士说：“沿海卫所初建置，本以保障民生，捍卫地方。
故民出膏脂以供馈饷，今积承平二百年来，一旦被有倭患，其民社供馈军饷且如旧矣，而军不惟不能保民，无益内地，且每事急，又请民兵以为伊城守，是供军者民也，杀贼者又民也，保民者民也，保军者又民也。”军队不能保民，反要民来保护军队，这种事体颠倒，说明军队的腐败。因此，新成立的戚家军，就必须是一支能杀贼保民的军队。他指出：“兵是用来杀贼的，贼是要杀老百姓的，百姓们当然希望你们勇敢杀贼。如果你们既能杀贼又守军法，不扰害百姓，百姓怎能不奉承你们呢？”
纪律和武艺教育并重是戚继光的练兵思想。纪律训练的目的在于克服农民、矿夫原来的自由散漫思想，用严明的纪律把他们组织起来，使他们能服从命令，听从指挥，不损害百姓的利益，而武艺的训练，是让士兵掌握杀敌的本领。他曾经启发部下，武艺训练，并不是“应官差的公事”，而是立功、杀贼、救命的“本身上的贴骨的勾当”。但是，如果你武艺不高，不如敌人，那么，贼“决杀了你”。这种浅显的说教，是很有说服力的。戚继光训练士兵的另一个思想，是军官以身作则，他认为军官凡事要身先士卒，但这不仅是指临阵作战时要身先士卒，即平时训练时也要身先士卒。只有军官带头，士兵才能奋勇作战。
戚继光除了对士兵进行纪律和武艺的训练之外。还根据和倭寇作战的特点，如作战大多在薮泽之处，不能像在北方旱地一样。所以，他对原来明代的兵制进行了改造。按明军制：每五人为伍，设伍长一人；每二十五人为甲，设甲长一人；每一百二十五人为队，设队长一人；每六百二十五人为哨，设一哨总和左右哨长。这种队列不利于在江南水乡作战。戚继光根据实际情况对这种阵列进行改革，创造了有利于江南水乡作战的鸳鸯阵。鸳鸯阵的基本阵法是以十二人为一队，最前面的一人是队长，次两人持牌，一持长牌，一持圆牌。长牌圆牌面积大，可防敌人的倭刀、重矢、并掩护后面的队伍继续前进。其他九人的配备是这样的：再次两人持狼筅，再次四人持长枪，再次二人持短兵器，最后一人为火兵即炊事兵。
这个阵法在作战时“二牌并列，狼筅各跟一牌，长枪每二支，各分管一牌一筅。短兵防长枪进的老了，即便杀上。筅以救牌，长枪救筅，短兵救长枪”。这种阵法，不但行动灵活，并有较大的杀伤力。鸳鸯阵队列的根据，是按士兵的体质不同，编成一个战斗小组。如力气大有胆识的可以持牌，身体健壮的可以持狼筅，按士兵各自的特长，持不同的兵器，这样可以充分发挥士兵的战斗力。
这种阵法，还可以因时变化，一队可以分成两队，叫两仪阵，人分成两队，兵器也随人各分成两队。还可以由两仪阵再变成“三才阵”，队长居中，两边配以两狼筅、两短兵，左右两翼各有一牌、二长枪。这样一个队列，就是把纵队变化成横队，十二个人同时在一条战线上展开。
鸳鸯阵后又配上鸟铳手、弓弩手、火箭手，组成步兵大营，下分前、后、左、中、右五营，如遇敌人的大部队，前营正面出击，左右两营由两侧配合，中营居中指挥，后营是预备部队，或作伏兵，或作支援、策应。
经过上面的训练和改革，纪律好，素质高，且熟悉作战阵法，战斗力很强的戚家军便产生了。根据形势需要，戚继光除了训练陆师之外，又亲自督造战船，建立水师。到嘉靖四十年他督造战船达到四十多艘，建成一支素质很好的水师。
经过这几次战斗，倭寇在浙江的主力基本上被歼灭，被杀死及摔死、溺水而死的达五六千人之多，其余倭寇闻风丧胆，纷纷逃散。戚家军胜利返回台州，台州人民出城欢迎，人群队伍长达二十多里，欢声雷动，共颂戚家军卫国保民，功绩无边。
台州战役之后，浙东倭患大大减轻。是年九月，一股倭寇进犯温州，被总兵卢镗击败。第二年五月，又有一股倭寇进犯台州、温州，也被戚继光部消灭。至此，浙东倭患即告平息。
戚继光在浙江大败倭寇时，一部分倭寇为避戚家军兵锋逃往福建，加上浙江总督胡宗宪急于平息浙东倭患，不让戚家军追击逃亡的倭寇。于是，浙东倭患平息之后，福建倭患又猖獗起来，嘉靖三十七年倭寇攻陷福清，第二年攻陷福安、福宁。嘉靖四十年，攻陷永宁。在宁德县城外的海中有个横屿岛，倭寇在此扎营，作为大本营。福建沿海，“自福宁至漳泉，千里尽贼窟”。福建的明军，惧怕倭寇，不敢进剿。倭寇越来越多，兴化城外也扎有倭寇，四处抢掠，为害极大。福建巡抚只好向明廷告急，明廷令浙江派兵援闽，胡宗宪即调戚继光到福建剿倭。
这次战役以少胜多，指挥得当，筹计周密，可见戚继光的军事指挥才能。谭纶在上疏请赏仙游获捷之军时说，这个战役是“用寡击众，一呼而辄解重围；以正为奇，三战而悉收全捷”。他指出：“盖东南用兵以来，军威未有如此之震，军功未有如此之奇者。”
此后，福建匪患全无。