多模态强化学习训练系统构建与优化当面告知

深圳市腾讯计算机系统有限公司
2027-02-07 20:30:31
其他校招25届26届

岗位详情

地区:

杭州市

专业要求:

数据科学人工智能自动化计算机科学与技术软件工程

岗位职责:

课题详情: 随着视频生成模型与世界模型从预训练迈向强化学习后训练(RLHF/RL Post-Training)阶段,工业界对模型物理一致性、长程时空连贯性及指令遵循能力的要求显著提升。然而,视频模态相较于文本具有帧间连续性要求高、算力消耗呈指数级增长的特性,导致传统RLHF流水线在应对大规模视频模型训练时面临严峻的工程瓶颈。 本课题聚焦视频生成模型/世界模型RLHF训练的工程落地,解决数据生产慢、资源争抢、计算编排及训练不稳定的痛点。通过设计模块解耦的异步流水线,优化奖励模型批处理与显存调度,构建高并发推理服务与容错回滚机制,显著提升系统吞吐与稳定性,降低大规模视频模型强化学习训练门槛。 课题要求: 1.计算机相关专业,具备较强的动手能力;熟悉 Python ,具备扎实的系统编程功底和优秀的复杂系统 Debug 能力; 2.深入理解大模型分布式训练原理,具备 Megatron-LM、DeepSpeed 或FSDP 等主流框架研发经验; 3.熟悉大模型后训练与对齐技术(PPO、GRPO、DPO等),熟悉 Verl、ROLL,AReal 等强化学习/分布式计算框架,可以理解并解决 RL过程中的工程痛点; 4.熟悉主流生成模型的原理,在AIGC相关领域具备实际项目经验; 5.具备极强的技术好奇心与自驱力,面对业界无先例的技术难题,能独立思考并推动解决。

招聘要求:

课题详情: 随着视频生成模型与世界模型从预训练迈向强化学习后训练(RLHF/RL Post-Training)阶段,工业界对模型物理一致性、长程时空连贯性及指令遵循能力的要求显著提升。然而,视频模态相较于文本具有帧间连续性要求高、算力消耗呈指数级增长的特性,导致传统RLHF流水线在应对大规模视频模型训练时面临严峻的工程瓶颈。 本课题聚焦视频生成模型/世界模型RLHF训练的工程落地,解决数据生产慢、资源争抢、计算编排及训练不稳定的痛点。通过设计模块解耦的异步流水线,优化奖励模型批处理与显存调度,构建高并发推理服务与容错回滚机制,显著提升系统吞吐与稳定性,降低大规模视频模型强化学习训练门槛。 课题要求: 1.计算机相关专业,具备较强的动手能力;熟悉 Python ,具备扎实的系统编程功底和优秀的复杂系统 Debug 能力; 2.深入理解大模型分布式训练原理,具备 Megatron-LM、DeepSpeed 或FSDP 等主流框架研发经验; 3.熟悉大模型后训练与对齐技术(PPO、GRPO、DPO等),熟悉 Verl、ROLL,AReal 等强化学习/分布式计算框架,可以理解并解决 RL过程中的工程痛点; 4.熟悉主流生成模型的原理,在AIGC相关领域具备实际项目经验; 5.具备极强的技术好奇心与自驱力,面对业界无先例的技术难题,能独立思考并推动解决。

公司介绍

深圳市腾讯计算机系统有限公司

深圳市腾讯计算机系统有限公司

深圳市腾讯计算机系统有限公司,成立于1998-11-11,位于广东,法定代表人:马化腾,登记状态:存续,注册资本6500万人民币,公司类型:民营/私企

公司信息:


公司名称:深圳市腾讯计算机系统有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: