五月，贼於武昌城外豹子澥等处增垒掘壕，林翼抽调诸军击之，遂於要隘掘壕困贼。贼屡扑，皆击退。谍知九江贼古隆贤来援，已至樊口，先遣党数千进踞葛店。令蒋益澧率精锐迎击，战於葛店，大破贼，焚其舟。追至樊口，杨载福水师亦至，合击，毙贼数千。攻克武昌县城，遂渡江攻黄州。而石达开由江西窜江宁，复纠众上犯，分数路。七月，急调黄州军回援。贼由金牛趋葛店，古隆贤亦起应之。林翼督水陆军分御，连战於油坊岭、鲁家港、姚家岭、窑湾、沙子岭、小龟山，旬日内二十馀捷，擒斩无算，解散胁从万馀，追奔百馀里，至华容，贼悉遁。九月，杨岳斌追贼至蕲州，焚其舟，直抵田家镇。贼援既绝，添募陆勇五千，水师六营，为长图计。十一月，咨会官文克期大举。杨岳斌断拦江铁锁，焚贼船尽。贼倾城出扑，鏖战三时，大败狂奔，诸军逐之，遂复武昌。擒贼酋古文新等，骈诛数百人，生降四千。同日官文亦克汉阳。诏实授林翼湖北巡抚，加头品顶戴。遂分兵收复武昌县、黄州府及兴国、大冶、蕲水、蕲州、黄梅。令李续宾乘胜规九江，都兴阿、杨岳斌、鲍超屯小池口，自驻武昌筹全局。
上疏论军事吏治，略曰：“湖北军务不饬已久，无论贼之多寡强弱，闻警先惊，接仗即溃。上下相蒙，恬不知耻。误於使贪使诈，而实为贪诈所使。川、楚、河南勇目，招合无赖投效，以一报十，冒领口粮。交绥即败，又顾之他。帑项至艰，徒饱无赖欲壑。遣散不得其方，又相聚为盗。近年湖北募勇之大患，绿营则怯懦若性，正额虚浮，军政营制，荡然无存。此为兵事急应整顿之要。自古用武之地，荆襄为南北关键，武汉为荆襄咽喉。武汉有警，则邻疆胥震。四年之中，武昌三陷，汉阳四陷。东南数省，受害惟武汉为甚。夫善斗者必扼其吭，善兵者必审其势。今於武汉设重镇，则水陆东征之师，恃为根本军火米粮委输不绝，伤痍疾病休养得所。平吴之策，必先保鄂，明矣。保鄂必先固汉阳。湖北之失，在汉阳无备。下游小挫，贼遂长驱直入。应请於武汉设陆师八千，水师二千，日夜训练。平时有藜藿不采之威，临事有千里折冲之势。且东征之师，孤军下剿，苦战必伤，久役必疲。伤病之人，留於军中，不但误战，亦且误饷。若以武汉之防兵更番迭代，则士气常新，军行必利。此武汉宜急设防练之要。湖北莠民从贼者多，兵勇搜捕，徒滋扰害。惟有保甲清釐，族户綑献，分别斩释。然牧令不得其人，则法不能行。官吏之举动，为士民所趋向；绅士之举动，又为愚民所趋向。未有不养士而能致民，不察吏而能安民者。五年大熟，州县乃或报灾，六年大饥，州县转或徵赋。以丰为歉，是病国计；以歉为丰，是害民生，而终害於国计。歉岁官吏私收蠲缓，实惠不及於民。有所谓挖徵、急公等名目，无一非蠹国病民。凡下与上交接之事，诿之幕友；官与民交接之事，诿之门丁。词讼案牍，病在积压；盗贼奸宄，弊在因循。州县之小事，即百姓之大事，今日之小贼，即异日之大贼。厝火积薪，隐忧方大。又如捐输则有踩堂、贽见之费，牙帖则有勒索之费，釐金则有私设之费。臣受事以来，迭次特参，在国自有刑章，在臣甘为怨府。惟思劾贪非难，求才为难。前者劾去，后者踵事，而巧避其名，弊将不可胜言。臣愚以为必严禁官场应酬陋习，与群吏更始，崇尚敦朴，屏退浮华。行之数年，庶可改观。目下州县悬缺待人，请敕下部臣，暂勿拘臣文法资格。此吏治急应整饬之要。武汉甫经收复，人或以为已治已安，臣窃忧之。如以为治安，则前收复已二次矣。况江西七府俱沦於贼，旁轶横出，不仅九江、安庆为足虑也。未收复之前，事势极难，文武尚有惧心；收复之后，布置尚易，而特恐文武均萌肆志。外省粉饰之习，久在圣明洞鉴。不揣愚昧，用以直陈。”疏入，上嘉纳焉。於是裁浮勇，练新军，蠲四十六州县田赋以苏民困。设清查局，稽核全省仓库盈虚之数；设节义局，表彰死难官绅士女；设军需局，以备东征饷械。严课吏治，纠劾文武数十人，推廉尚能，手书戒勉将吏如子弟。初，将吏颇构督、抚异同，下令曰：“敢再言北岸兵事吏事长短者，以造言论罪。”官文亦开诚相与，无掣肘。军政吏治，皆林翼主稿，林翼推美任过，督抚大和。湖北振兴，实基於此。襄阳土匪猖獗，扰及河南境，令唐训方等剿之。
七年春，擒匪首高先二等。陈玉成由皖北上犯，诸军不能御。林翼赴黄州督师，贼众十馀万环踞巴河东。会水涨，林翼令毁三台河石桥，扼河而守。潜师出回龙山，遏贼上窜。调李续宜率湖勇驰至，督诸军合击於孙家嘴、马家河、月山，贼大败遁走。都兴阿、李续宾亦连破贼於黄梅、宿松，楚北肃清。遂视师九江，定合围方略而还。八年四月，李续宾等攻九江，克之，磔贼首林启荣。诏嘉林翼调度有方，加太子少保。林翼乃急规安庆，杨岳斌率水师出九江，都兴阿出宿松、望江，逼安庆为围师。李续宾规复太湖、潜山、桐城，与都军为犄角。五月，丁母忧，诏予假百日治丧，假满仍署巡抚。七月，庐州陷，李续宾轻军赴援，战殁三河。林翼方奉母柩回籍，诏急起视师，林翼闻命，痛哭起行，迳次黄州，军心始定。
九年，进屯上巴河，与李续宜整饬部伍，日夜训练，谋大举。会石达开由江西犯湖南，围宝庆。林翼令李续宜率所部赴援，舒保马队助之，又以水师分扼河道，宝庆围得解，於是与曾国藩合力图复安徽。国藩循江而下为第一路，多隆阿、鲍超攻取潜山、太湖为第二路，林翼自出英山、霍山为第三路，李续宜由松子关出商城、固始为第四路。十月，由黄州移营英山。陈玉成在贼中最狡悍，见太湖围急，纠合捻匪张洛行、龚瞎子众数十万来援。林翼集诸军精锐全力备战，欲一鼓歼之。与曾国藩部署诸将，指挥战略。谋前敌总统，以多隆阿谋勇兼优，而鲍超素不相下，手书劝勉，十数往复，始定议。又备意外，令金国琛、余际昌以八千人出潜山天堂拊贼背。十二月，贼至，鲍超营小池驿，当其冲，贼聚攻之。多隆阿虑分兵掣全势，置不救，调唐训方往助。事且急，金国琛等由山中鼓行而出，贼乃夺气。十年正月，多隆阿攻罗山冲为西路，鲍超出小池驿为东路，朱品隆、蒋凝学、唐训方等合击，金国琛等亦同时并进，大破贼，歼毙先后二万馀，遂克太湖城，潜山亦复。是役为仅见之大捷，安庆之势遂孤。
既而江南大军溃，苏、常尽陷，曾国藩授两江总督，督师。林翼为画分路大举之策，国藩不尽用，率鲍超等次祁门，为规复江南计，以其弟国荃围安庆。林翼令多隆阿围桐城，李续宜屯青草塥，为两军援，都兴阿别出师江北，分兵济饷，林翼悉任之。十月，多隆阿、李续宜大破贼於桐城挂车河。林翼进驻太湖，度贼援安庆不利，必深入湖北腹地以分我军势。令余际昌屯霍山乐儿岭，成大吉屯罗田松子关，戒贼至勿浪战，坚守待援。十一年春，贼果合捻匪西犯，成大吉破之松子关，歼捻渠龚瞎子。霍山守者违节度，为贼所败，遂进陷黄州、德安、孝感、随州，林翼令李续宜回援。贼复分股回略蕲、黄，趋安庆，约城贼夹击。檄成大吉下援，鲍超亦由南岸至，破贼於集贤关，擒斩数千，磔其渠刘玱林。多隆阿亦破援贼於桐城，贼计不得逞，城中粮将尽，势益慼。南岸之贼复由江西犯兴国、大冶，南及崇、通，武汉震动。林翼方病咯血，自率师回援，而围攻安庆益急。及抵湖北，贼已闻风遁。八月朔，遂克安庆。曾国藩推林翼为首功，诏加太子太保，予骑都尉世职。桐城、庐江、舒城以次复，黄州、德安之贼先后擒斩，楚境悉平。
林翼久病，闻文宗崩於热河行在，大恸呕血，八月，卒。诏赠总督，祀贤良祠，湖北、湖南并建专祠，赐其子子勋举人，谥文忠。同治元年，复诏：“林翼未竟全功，遽就溘逝，迹其功勋卓越，名播寰区，至今江、鄂士民称颂。命於原籍家祠赐祭一坛。”洎江南平，加予一等轻车都尉世职，子子勋袭，后并两世职为男爵。光绪中，以孙祖荫袭，官邮传部参议。
林翼貌英伟，目岩岩，威棱慑人。事至立断，无留难。尤长综覈，釐正湖北漕粮积弊，以部定漕折为率，因地量加轻重，民岁减钱百馀万缗，岁增帑四十馀万两，提存节省银亦三十馀万两。两湖自淮盐阻绝，率食川盐，於宜昌、沙市、武穴、老河口设局徵税，视旧课增至倍蓰。时东南各省皆抽釐助饷，惟湖北多用士人司榷，覈实无弊。其治军务明纪律，手订营制，留意将才。尝曰：“兵之嚣者无不罢，将之贪者无不怯；观将知兵，观兵知将。为统将必明大体，知进退缓急机宜；其次知阵法，临敌决胜；又其次勇敢：此大小之分也。”驭将以诚，因材而造就之，多以功名显。察吏严而不没一善，手书褒美，受者荣於荐剡，故文武皆乐为之用。士有志节才名不乐仕进者，千里招致，於武昌立宝善堂居之，以示坊表。尝曰：“国之需才，犹鱼之需水，鸟之需林，人之需气，草木之需土。得之则生，不得则死。才者无求於天下，天下当自求之。”荐举不尽相识，无一失人。曾国藩称其荐贤满天下，非虚语。尝自以闻道晚，刻自绳检，欿然常若不足。家有田数百亩，初筮仕，誓先墓，不以官俸自益。父著弟子箴言行世，承其志为箴言书院，教人务实学。病革，曰：“吾死，诸君赙吾，惟修书院，无赡吾家。”所著读史兵略、奏议、书牍，皆经世精言。
论曰：骆秉章休休有容，取人为善。胡林翼综覈名实，幹济冠时。论其治事之宽严疏密若不相侔，而皆以长驾远驭，驱策群材，用能丕树伟绩。所莅者千里方圻，规画动关军事全局。使无其人，则曾国藩、左宗棠诸人失所匡扶凭藉，其成功且较难。缅怀中兴之业，二人所关系者岂不钜哉？