彭冲从1974年11月起担任江苏省委第一书记。那段时间江苏生产面临不少困难，他抓经济工作，组织力量推动工业发展，扭转了下降局面，维护了社会基本稳定。在南京工作期间，他签发指示停止拆除明城墙，还安排力量进行回填加固，保护了古城墙。1968年3月他担任江苏省革命委员会副主任和省委副书记，分管生产建设，协助指挥南京长江大桥修建，作为常务副指挥和工程技术人员工人解放军指战员一起在工地协调施工进度，大桥主体工程后来顺利完成。

1976年10月6日中央粉碎四人帮后，上海情况复杂。10月7日下午彭冲在南京办公室接到保密电话，要求马上赶到北京，专机很快到达。他安排好手头事情，和南京军区领导一起出发。到了北京中央领导通报情况并布置任务。

10月13日晚中央决定派苏振华倪志福彭冲组成工作组赴上海，彭冲担任上海市委第三书记市革命委员会第二副主任。任命在10月20日正式公布前工作组已经秘密行动。10月19日工作组抵达上海，先驻扎在海军上海基地确保安全。上海市委警卫处政委和上海警备区副政委到现场询问情况，工作组成员没有回应，继续前往基地。工作组交换意见了解当地动态后开展工作。

上海余党当时策划民兵调动意图制造事端。工作组采取措施稳定局势，开展揭批查斗争，有效粉碎了武装叛乱阴谋，摧毁了帮派体系。彭冲参与领导这些工作，依靠干部群众争分夺秒恢复政治经济秩序。市场出现抢购情况后，工作组决定调出储备物资投放市场，供应逐步恢复正常。揭批大会上彭冲主持，强调查清问题同时保持稳定，上海后来提供的相关材料在审判中发挥了作用。整个过程上海没有发生大规模混乱，生产秩序得到恢复。

1978年3月彭冲当选中国人民政治协商会议第五届全国委员会副主席，进入副国级领导岗位。那一年9月他作为中国党政代表团副团长随邓小平访问朝鲜，回来后陪同邓小平视察东北。1979年后他在上海继续任职，担任上海警备区第一政治委员上海市委第一书记上海市革命委员会主任上海市市长等职，参与领导恢复上海各方面秩序，还注重发展生产，领导筹建上海宝山钢铁联合企业，为钢铁工业发展作出贡献。

1980年彭冲调回北京，担任中共中央政治局委员中央书记处书记中央政法委员会第一副书记，同年9月补选为第五届全国人大常委会副委员长，后来连续担任第六届第七届全国人大常委会副委员长兼秘书长全国人大法律委员会主任委员。在全国人大常委会工作中，他参与组织指导审理林彪江青反革命集团案，推动制定和审议大量法律，为新时期民主法制建设提供支持。他在人大会议厅布置讨论中提出使用国徽作为会议标志的建议，相关领导听取后采纳执行，人大会议厅正面从此悬挂国徽。

彭冲在人大工作中多次参加常委会会议，翻阅法律草案提出修改意见，和委员们讨论条款适用性，确保法律符合实际需要。他坚持立法从中国实际出发，以宪法为依据，符合国情符合人民利益，有利于生产力发展，有利于维护公民权益，注重法律数量和质量统一，为社会主义法制建设打下基础。

彭冲晚年保持低调，从不主动撰写个人回忆录。四个儿子大多留在江苏生活，长子早年失散后找回，二儿子曾在南京市质监局工作。2010年10月18日彭冲因病在北京逝世，享年96岁。他把工作成果交给历史评说，一生在江苏上海和中央岗位上做了大量实事。