在这期间，八路军第二纵队政治委员黄克诚率部从冀鲁豫南下淮北，先与新四军第6支队合编为八路军第四纵队。8月，津浦路东、陇海路南、淮河以北地区的八路军新四军统一整编为八路军第五纵队，黄克诚为司令员兼政治委员。彭明治、朱涤新的115师教1旅整编为第五纵队第1支队，陇海南进支队与新四军第6支队第4总队整编为第五纵队第3支队，司令员张爱萍，政治委员韦国清。1941年皖南事变后，八路军第五纵队整编为新四军第三师，第3支队改编为第3师第9旅。张爱萍任旅长，韦国清任政治委员。后来第3师9旅与第4师10旅对调，9旅改归第4师建制。1943年第4师师长彭雪枫牺牲后，张爱萍任第4师副师长，韦国清任第9旅旅长兼政委。1945年日本投降后，新四军第4师改编为山东野战军第2纵队，后为华东野战军第2纵队，韦国清任司令员兼政治委员。1949年初，第2纵队整编为第三野战军第10兵团21军，韦国清任10兵团政治委员。第9旅改编为21军63师，后来改编为武警63师，驻甘肃平涼。