二年，移淮安府知府。豫亲王多铎下扬州，道淮安。文衡请禁将吏毋扰市，糗粮刍秣应期立办。三迁，巡抚甘肃。五年二月上官，逾月而遘米喇印之乱。变未作，喇印诡言要文衡造其家集议。文衡行未至，贼环射杀之。总兵刘良臣，副将毛镔、潘云腾，游击黄得成、金印，都司王之俊，守备胡大年、李廷试、李承泽、陈九功皆死。参将翟大有与战，没於阵。贼挟西宁道副使林维造至北关，搤杀之。越日，陷凉州，戕西宁道参议张鹏翼。贼四出侵掠，破巩昌，戕临巩兵备道李絮飞；破岷州，戕知州杜懋哲、王札；破兰州，戕同知赵冲学，知州赵翀，训导白旗、国学锦；破临洮，戕同知徐养奇；破渭源，戕知县李淐；战通渭，围子山，知县周盛时被创死。事平，皆赠恤如例。
张存仁，辽阳人。明宁远副将，与总兵祖大寿同守大凌河。天聪五年，太宗自将攻大凌河，从大寿出降，仍授副将。六年正月，存仁与副将张洪谟、参将高光辉、游击方献可合疏请乘时进取，参将姜新别疏请令副将祖可法、刘天禄先取松、杏二城，则锦州自下。七年五月，新复请进兵，洪谟等及新皆大凌河降将也。
崇德元年五月，始设都察院，班六部上。以存仁为承政，并授世职一等梅勒章京。越数日，存仁上言：“臣自归国，默察诸臣贤否，政事得失，但不敢出位妄论列。今上创立此官，而以命臣。臣而正直，后之人正直必有过於臣者；臣而邪佞，后之人邪佞亦必有甚於臣者。所虑臣本心而行事，人不敢弹劾而臣弹劾之，人不敢更张而臣更张之，举国必共攻臣，使臣上无以报主恩，下无以伸己志，获戾滋甚。臣虽愚，岂不知随众然诺，其事甚易；发奸擿伏，其事甚难。诚见不如此，不足以尽职。敢於受任之始，沥诚以请：如臣苟且塞责，畏首畏尾，请以负君之罪杀臣；如臣假公行私，瞻顾情面，请以欺君之罪杀臣；如臣贪财受贿，私家利己，请以贪婪之罪杀臣。苟臣无此三罪，而奸邪诬陷，亦原上申乾断，以儆谗嫉。”上曰：“此或知有其人而为是言。朕素不听谗，惟亲见者始信之。且朕志定於上，而诸臣蒙泽於下，纵有奸邪，孰能售其术哉？”越数日，以阿什达尔汉为都察院满承政，尼堪为蒙古承政，并增置祖可法为汉承政。上御清宁宫，阿什达尔汉等前奏事，上因谕曰：“朕有过，亲王以下坏法乱纪，民左道惑众，皆当不时以闻。若举细而遗大，非忠直也。”可法对曰：“臣等惟上是惧，他复何忌？有闻必以奏。”存仁曰：“可法言非是。臣诚忠直为国，上前且犯颜直谏，况他人乎？”上曰：“然。人果正直，天地鬼神不能摇动，人主焉得而夺之？”是岁，都察院劾刑部承政郎球贪汙，论罪；劾工部夺民居授降人，复别造宅偿民，劳民非制。上以诸臣多未更事，事事加罪，反令惶惑，但诫毋更违令。
三年正月，可法、存仁疏言：“礼部行考试，令奴仆不得与。上前岁试士，奴仆有中式者，别以人畀其主。今忽更此制，臣等窃谓奴仆宜令与试，但限以十人为额。苟十人皆才，何惜以十人易之？”上曰：“昔取辽东，良民多为奴仆。朕令诸王下至民家，皆察而出之，复为良民。又许应试，少通文艺，拔为儒生。今满洲家奴仆，非先时滥占者比。或有一二诸生，非攻城破敌血战而得，即以战死被赉。昨岁克皮岛，满洲官兵争效命，汉官兵坐视不救。此行所得之人，苟无故夺之，彼死战之劳，捐躯之义，何忍弃也？若别以人相易，易者无罪，强令为奴，独非人乎？尔等但爱汉人，不知惜满洲有功将士及见易而为奴者也。”可法、存仁引罪谢。既，复论户部承政韩大勋盗帑，大勋坐夺职。四月，疏请敕户部立四柱年册，再疏请诛大勋，又劾吏部、刑部复用赃吏违旨坏法，皆与可法合疏上，上皆嘉纳之。七月，更定官制，可法、存仁皆改都察院右参政。汉军旗制定，隶镶蓝旗。
大寿既降，复入锦州为明守，攻数年不克。五年正月，存仁疏请屯兵广宁，扼宁远、锦州门户。四月，又疏言：“臣睹今日情势，锦州所必争。但略地得利易，围城见功难。原上振军心，与之坚持。截彼诇察，禁我逃亡。远不过一岁，近不过一月，当有机可乘。兵法全城为上，盖贵得人得地，不贵得空城也。我师压境，彼必弃锦州，保宁远；再急，彼必弃宁远，保山海关。大寿跋扈畏罪，岂肯轻去其窟？事缓则计持久，事急则虑身家。大寿背恩失信，人皆以为无颜再降。臣深知其心无定，惟便是图，急则悉置不顾。况彼所恃者蒙古耳，今蒙古多慕化而来，彼必疑而防之。防之严则思离，离则思变。伏原以屯耕为本务，率精锐薄城，显檄蒙古，纵俘宣谕，未有不相率出降者。此攻心之策，得人得地之术也。”十二月，复言：“兵事有时、有形、有势，三者变化无定，而用之在人。松山、杏山、塔山三城，乃锦州之羽翼，宁远之咽喉。塔山城倚西山之麓，自其巅发炮俯击，城易破也。既得此城，羽翼折，咽喉塞矣。兵法困坚城者，必留其隙。锦州虽不甚坚，当留山海关以为之隙。锦州辽兵少，西兵多，一人负箭入，群惊而思遁。能善用巧，山海关可下。”疏末并言乌真超哈每遇番上，辄令奴仆代，上为申禁。
六年，师屡破明兵松山、杏山间，存仁复疏请相机度势，以时进兵。七年，既克锦州，存仁请招吴三桂降。上颁御劄抚谕，并命存仁遗以私书，略言：“明运将终，重臣大帅就俘归命。将军祖氏甥，虽欲逃罪，无以自明。大厦将倾，一木不能支。纵苟延岁月，智竭力穷，终蹈舅氏故辙。何若未困先降，勋名俱重？”六月，乌真超哈四旗始分置八固山，授存仁镶蓝旗梅勒额真。八年，从郑亲王济尔哈朗取前屯卫、中后所，加半个前程。
顺治元年，从入关，与固山额真叶臣率师徇山西，下府六、州二十四、县一百三十一，遂克太原。又从豫亲王多铎略河南，下江南，督所部以炮战，屡有克捷。二年六月，从贝勒博洛定浙江，以存仁领浙江总督。兵后民流亡，存仁集士绅使抚谕，民复其所。七月，疏言：“近有薙发之令，民或假此号召为逆。若反形既著，重劳大兵，莫若速遣提学，开科取士，下令免积逋，减额赋，使读书者希仕进，力田者逭追呼，则莫肯相从为逆矣。”得旨，谓“诚安民急务也”，令新定诸行省皆准恩诏施行。
十一月，授兵部右侍郎，兼都察院右副都御史，总督浙江、福建。时明鲁王以海保绍兴，号“监国”，其将方国安镇严州。故明福王由崧倚大学士马士英，用以亡国，士英走依国安。是岁九月，国安自富阳渡钱塘江窥杭州，存仁遣副将张杰、王定国率师御之，斩四千馀级。国安退保富阳。又令定国出屯馀杭，遇国安兵，与战，自关头至小岭，逐北二十里，斩国安子士衍。十月，士英复以兵至，去杭州十里为垒五。平南大将军贝勒勒克德浑帅师赴之，未至，士英引去，存仁与总兵官田雄追击之，斩五百馀级。十一月，士英、国安复以兵至，存仁与梅勒额真季什哈及雄等帅师击之，敌溺江死者无算。十二月，士英、国安屯赭山，掠朱桥、范村诸处。存仁与梅勒额真朱玛喇及雄、杰等分兵与战，国安所将水师数万人歼焉，馀众俘馘殆尽。三年二月，有姚志卓者，为乱於昌化，与国安相应。存仁遣杰等击走志卓，复昌化。五月，叙功，进三等昂邦章京。六月，遣副将张国勋等破敌太湖，获士英等，戮之。十一月，存仁请设水师五千，备钱塘江御海寇。四年五月，遣副将满进忠等收福州镇东卫，破海寇周鹤芝；遣副将李绣援浦城，逐鹤芝党岑本高。十二月，遣副将马成龙等破敌处州，克景宁、云和、龙泉三县。五年正月，明宜春王议衍率众自江西入福建，保汀州山寨，总兵官于永绂击破之。二月，分兵克连城、顺昌、将乐三县，获明侍郎赵士冕、总兵黄锺灵等。存仁自至浙江，屡以疾乞休，至是始得请，受代以去。
六年八月，起授兵部尚书，兼右副都御史，总督直隶、山东、河南三行省，巡抚保定诸府，提督紫金诸关，兼领海防。盗发榆园，为大名诸县害。存仁闻归德侯方域才，贻书咨治盗策，方域具以对。存仁用其计，盗悉平。七年，上令疆吏考校诸守令，以文艺最高下。存仁出按诸府县，廉能吏有一二语通晓，即注上考；非然者，文虽工亦乙之。监司请其故，存仁曰：“我武臣也，上命我校文，我第考实，文有伪，实难欺也。况诸守令多从龙之士，未尝教之，遽以文艺校短长，不寒廉能吏心乎？”屡遇恩诏，进一等精奇尼哈番兼拖沙喇哈番。九年，卒，赠太子太保，谥忠勤，祀直隶、山东、河南、浙江、福建五行省名宦。乾隆初，定封三等子。
存仁弟子瑞午，康熙间为福建邵武府知府。耿精忠叛，徇诸郡邑，瑞午不为下，死之。子飏、瑛、珍、珖、玳、瑜，子妇王、李皆从死。事定，赠瑞午太仆寺卿。存仁孙璲，康熙间以佐领从军，郑成功将刘国轩攻海澄，战死，赠拖沙喇哈番。
论曰：国初诸大政，皆定自太祖、太宗朝。世谓承畴实成之，诬矣。承畴再出经略，江南、湖广以逮滇、黔，皆所勘定；桂王既入缅甸，不欲穷追，以是罢兵柄。孟乔芳抚绥陇右，在当日疆臣中树绩最烈。张存仁通达公方，洞达政本。二人皆明将。明世武臣，未有改文秩任节钺者，而二人建树顾如此。资格固不足以限人欤，抑所遭之时异也？