【快Star】视频大模型高性能与分布式计算工程师当面告知

北京达佳互联信息技术有限公司
2027-01-16 00:00:00
校招26届本科

岗位详情

地区:

北京市

专业要求:

人工智能计算机科学与技术软件工程

岗位职责:

1、分布式并行架构与 MFU 极限调优:针对可灵超大规模视频结构,深度优化分布式并行策略,攻克超大规模并行在万卡集群上的极致通信重构与拓扑编排;\n2、多模态不均衡优化:针对视频与图像带来的极端多模态不均衡数据负载以及下一代生成理解统一模型带来的模型不均衡问题,设计定制化均衡算法,设计并行策略;\n3、极致通信计算 overlap 架构设计:设计极致的 AllGather/AllToAll 通信掩盖方案与算子级 Overlap 调度,实现计算与通信的完美重叠。 1、计算机、分布式系统、高性能计算及相关专业硕士或博士学位,具备深厚的并行计算理论与系统实战底蕴;\n2、具有卓越的分布式系统实现能力,精通 C/C++、Python,深入理解 MPI/NCCL 内部机制、RDMA、NVLink 高速互联网络协议;\n3、深入理解主流大模型训练框架(如 Megatron-LM、TorchTitan、DeepSpeed)的并行切分机制,有实际将万卡/千卡集群训练 MFU 显著提升的框架层性能调优经验;\n4、具有优秀的系统分析能力,能够对复杂的通信-计算图进行深度分析,并在 MLSys/OSDI/SOSP/SC 等顶级计算机系统会议上发表过前沿成果;\n\n加分项:\n1、在 OSDI、SOSP、ASPLOS、EuroSys、SC、MLSys 等计算机系统顶级会议上发表过一作论文;\n2、拥有在超大规模集群(千卡以上)上落地 MoE 或大规模并行框架,且对 MFU指标做出过直接贡献的实战案例;\n3、曾在 ACM-ICPC / NOI / IOI 编程竞赛中获得过金牌及以上奖项者优先。

招聘要求:

1、分布式并行架构与 MFU 极限调优:针对可灵超大规模视频结构,深度优化分布式并行策略,攻克超大规模并行在万卡集群上的极致通信重构与拓扑编排;\n2、多模态不均衡优化:针对视频与图像带来的极端多模态不均衡数据负载以及下一代生成理解统一模型带来的模型不均衡问题,设计定制化均衡算法,设计并行策略;\n3、极致通信计算 overlap 架构设计:设计极致的 AllGather/AllToAll 通信掩盖方案与算子级 Overlap 调度,实现计算与通信的完美重叠。 1、计算机、分布式系统、高性能计算及相关专业硕士或博士学位,具备深厚的并行计算理论与系统实战底蕴;\n2、具有卓越的分布式系统实现能力,精通 C/C++、Python,深入理解 MPI/NCCL 内部机制、RDMA、NVLink 高速互联网络协议;\n3、深入理解主流大模型训练框架(如 Megatron-LM、TorchTitan、DeepSpeed)的并行切分机制,有实际将万卡/千卡集群训练 MFU 显著提升的框架层性能调优经验;\n4、具有优秀的系统分析能力,能够对复杂的通信-计算图进行深度分析,并在 MLSys/OSDI/SOSP/SC 等顶级计算机系统会议上发表过前沿成果;\n\n加分项:\n1、在 OSDI、SOSP、ASPLOS、EuroSys、SC、MLSys 等计算机系统顶级会议上发表过一作论文;\n2、拥有在超大规模集群(千卡以上)上落地 MoE 或大规模并行框架,且对 MFU指标做出过直接贡献的实战案例;\n3、曾在 ACM-ICPC / NOI / IOI 编程竞赛中获得过金牌及以上奖项者优先。

公司介绍

北

北京达佳互联信息技术有限公司

北京达佳互联信息技术有限公司,成立于2014-07-02,位于北京,法定代表人:杨远熙,登记状态:存续,注册资本600000万美元,公司类型:民营/私企
公司信息:
公司名称:北京达佳互联信息技术有限公司
公司类型:媒体/出版/影视/文化传播
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: