1937年，陈赓把386旅772团1营营长找来，对他说，要升他当团长，营长大喜，但陈赓又提了一个条件：你得先去完成两个紧急任务。 查玉升听完这话，心里一阵激动。他从红军时期就跟着部队打仗，1937年卢沟桥事变后，红军改编成八路军，他所在的红四方面军一部编入129师386旅。旅长陈赓看中了他的作战风格，想让他到772团担任更重要的职务。 可陈赓没有马上点头，而是提出考验：先除掉晋东南几个民愤极大的汉奸头子，再筹集部队过冬需要的布匹和钱款。这些任务都在日军控制区，风险极大。 查玉升没有多说，点头接下了。他挑选几个身手好的战士，换上便衣，趁夜行动。祁县、太谷等地维持会会长在同一晚被解决，现场留下字条表明身份。 日伪系统一下慌了神，汉奸们晚上睡觉都得枕着枪。查玉升的行动让敌人的耳目暂时失灵，为后续工作打开了空间。老百姓私下议论，这支队伍里有敢在虎口拔牙的人。 完成第一项后，查玉升转向第二个任务。他盯上祁县一个给日本人供货的大布商王掌柜。那人宅子守卫严密，直接硬来不行。查玉升换了思路，利用王掌柜害怕的风声，装成大夫混进去。 面对面时，查玉升平静地说出要求：十天内送五百匹布到指定地点，少一尺后果自负。王掌柜吓得脸色煞白，只好动用关系，贿赂造假，把布匹分批运出。靠类似办法，查玉升在几个月里搞到足够布料和现大洋，解决了386旅几千人冬衣问题。 这些行动让陈赓满意，查玉升顺利进入772团序列，先任副团长，后来在战斗中继续担当重任。1937年秋季，日军对晋东南地区进行初期扫荡，一次深夜突袭中，陈赓旅部被压制在山洼，通信中断，形势危急。 查玉升当时还带1营，没有接到明确命令，就主动率部机动。他扛起轻机枪带头冲锋，猛打日军侧翼。日军没料到这种不要命的打法，阵脚乱了。 查玉升部反复冲击，撕开血路，陈赓旅部才得以突围。查玉升自己也负伤，却坚持不下火线。这件事让陈赓既后怕又高兴，向刘伯承师长推荐他，查玉升的“无令而动、主动担当”作风在部队传开。 转到1940年10月，百团大战进入第三阶段。日军36师团冈崎支队约500余人从武乡东村出发，深入太行，25日骚扰黄崖洞兵工厂后企图撤回。 彭德怀副总司令决定集中129师主力围歼。刘伯承、邓小平、陈赓等指挥部署多路合围，772团承担东北至东南方向主攻。当时772团团长郭国言、政委金世柏，查玉升任副团长，各带一个营参战。关家垴地形不利，日军抢占高地，修筑工事，进攻路线狭窄。 10月29日晚总攻令下，30日凌晨攻击开始。772团从侧面猛攻，多次白刃格斗。日军居高临下，火力交叉，八路军伤亡不小。 战到31日，一营损失严重，几个连队只剩少数人。查玉升见指挥员伤亡，马上顶上去，抄机枪冲在前面，率部反复冲击近20次。 臂部中弹，血流不少，他仍不下火线，高喊口号鼓舞战士。经两昼夜激战，八路军付出代价，最终歼灭冈崎支队大部，迫使日军11月14日撤回。 这场战斗虽是攻坚硬仗，但打击了日军扫荡气焰，巩固了太行根据地。战后刘伯承对指挥有些批评，但对基层官兵英勇给予肯定。 查玉升的拼命劲头在129师战史和百团大战回忆中被记录下来。 新中国成立后，西南地区土匪猖獗，查玉升作为老红军、开国少将，被派到西南军区参与剿匪。他先后任团长、师长，作风保持一贯严格。 1950年代初，土匪常在山道设伏。一次查玉升奉命护送一位重要干部过保山一带，情报显示上百土匪埋伏在狭窄山道。 车队进入险地，查玉升果断停车，自己跳下，倚车轮用驳壳枪射击，一枪一个。 土匪没见过这种近距离打法，很快乱了阵脚，四散逃窜。任务完成，被护送者感慨其勇猛，查玉升只说耽误了时间。他在多地剿匪中迅速肃清匪患，调到哪里土匪就闻风而逃。