华北水利水电大学自1965年开始招收培养研究生，1978年在原北京校址成立了研究生部，2002年成立华北水利水电学院研究生处，2015年更名为华北水利水电大学研究生院，研究生院与党委研究生工作部合署办公。
研究生院负责全校研究生教育和学科建设工作，主要职责为：组织学校研究生教育的改革，参与有关学校发展问题的决策，开展研究生教育研究工作；据国家计划、科技发展、社会需要和可能条件，研究制订学校研究生教育发展的中长期规划和年度招生计划；制订研究生教育的各项规章制度，做好研究生教育管理的日常工作，遴选研究生指导教师，加强研究生管理干部队伍建设，对研究生教育和学位授予质量进行检查和评估；加强学科建设，参与制订学校学科建设规划，调整和优化学科结构，促进新兴学科、交叉学科和高新技术的发展；统一管理有关研究生教育的各种经费，参与确定学校涉及研究生教育的建设项目和经费预算；承担上级部门和学校委托的其他工作。
党委研究生工作部设有党建与思想政治教育科、研究生事务服务科及教育管理与创新实践科；研究生院设有综合科、招生科、培养科、质量保障科、就业指导科、学位管理科、学位点建设与评估科；学科建设办公室设有学科建设科、学科评估科及学术委员会秘书科等科室。
学校1981年获得国家首批硕士学位授予权，是河南省硕士学位授予类型较为齐全的高等院校，2009年成为博士学位授予立项建设单位，2014年开始招收培养博士研究生。是国务院学位委员会授权的、河南省唯一具有单独命题考试资格招收优秀在职人员攻读硕士学位（双证齐全）的地方院校；河南省具有"少数民族高层次骨干人才计划"招收攻读硕士研究生资格的院校；具有推荐应届本科毕业生攻读硕士研究生和接收免试推荐硕士研究生资格。
学校目前共有水利工程、地质资源与地质工程、管理科学与工程、数学4个博士学位一级学科点；有水利工程、地质资源与地质工程、机械工程、动力工程及工程热物理、控制科学与工程、计算机科学与技术、土木工程、农业工程、数学、管理科学与工程、工商管理、软件工程、应用经济学、地理学、电气工程、环境科学与工程、马克思主义理论、美术学、建筑学、公共管理20个硕士学位一级学科点；有工程力学1个硕士学位二级学科点；有土木水利、资源与环境、能源动力、机械、电子信息、交通运输、工商管理、工程管理、公共管理、汉语国际教育、法律、农业、翻译、会计、应用统计、国际商务和资产评估17个硕士专业学位领域。13个一级学科省级重点学科，1个二级学科省级重点学科。学校现有在学博士、硕士研究生4000余人。
