1934年10月率部作为前卫开始长征，连续突破国民党军四道封锁线，并浴血奋战湘江南岸，顽强抗击数倍国民党军的轮番进攻，掩护中共中央和军委纵队渡江。

红军在改编为八路军之初，受时势和新体制所限，一度取消了政治委员建制，政治机关的功能也大为削弱，部队中旧军队习气有所抬头。黄克诚在深入部队调查研究后，向中央建议恢复被取消的政治委员制度，很快被采纳，对继承和发扬人民军队的优良传统和作风，保持人民军队的本色，具有重要的历史意义。

1940年8月黄克诚率部东进淮海，南下盐城、阜宁，同发起黄桥战役的新四军苏北部队在白驹镇会师，共同创建苏北抗日根据地，打开了华中抗战的新局面，并打通了华北、华中两大战略区的联系。

1945年9月14日，黄克诚以个人名义向中共中央发电，提出《对当前局势和军事方针的意见》，建议立即派部队赴东北，并应尽量多派，以创建一块大的战略根据地。9月23日，中央军委即令黄克诚率新四军第3师主力3万余人进军东北，胜利完成挺进东北的战略任务。

1982年以后，黄克诚任中纪委第二书记，在年迈体衰、双目失明的情况下仍坚持工作，为贯彻新时期党的方针政策、拨乱反正、端正党风、平反冤假错案、正确评价毛泽东和毛泽东思想的历史地位与作用等作出重要贡献。

1955年黄克诚被授予大将军衔，获一级八一勋章，一级独立自由勋章，一级解放勋章。黄克诚是第一届全国人大常委会委员，第五届全国人大代表，第五届全国政协常务委员，第一、第二届国防委员会委员，第七届中央候补委员，第八届中央委员，1978年在中共十一届三中全会上被增选为中央委员，中纪委常务书记。