超大规模训练关键技术-阿里星/A Star当面告知
阿里巴巴(中国)有限公司
2027-02-07 21:44:16
其他校招27届
岗位详情
地区:
杭州市
专业要求:
人工智能计算机科学与技术
岗位职责:
1. 参与FlashMoE等分布式训练框架的优化,重点攻关MoE模型的Expert并行通信优化、负载动态均衡和稀疏激活下的高效训练;
2. 负责显存优化技术创新(激活重计算、梯度检查点、ZeRO变体),支持万亿参数MoE模型在有限显存下的稳定训练;
3. 探索多种异构硬件设备(A100/H100/H800/PPU)上的训练性能优化,通过算子融合、通信重叠、显存管理等手段提升MFU;
4. 支撑集团内部或云上客户万卡级MoE模型训练场景,将技术成果沉淀为PAI-DLC训练平台核心特性;
5. 推动超大规模训练优化方向的学术影响力产出。
招聘要求:
1. 熟悉深度学习基本原理、主流深度学习算法及应用、以及至少一种主流框架(PyTorch、TensorFlow等);
2. 熟悉Megatron、TrasformerEngine、DualPipe等框架技术,并在研究或实习项目中有相应的实践经历;
3. 具备扎实的计算机基础知识、C++/Python编程能力,熟悉常见数据结构和设计模式;
4. 具有很强的学习能力、复杂问题归纳梳理能力、沟通和团队协作能力,具备能够深度钻研技术的耐心。
加分项:
1. 有很强的学术研究能力和优秀的学术成果(AI领域顶会/顶刊论文);
2. 熟悉体系结构,并有扎实的高性能计算/AI编译器/推理框架/模型优化经验;
3. 作为核心贡献者参与开发或者负责维护AI领域的流行开源项目。
公司介绍

阿里巴巴(中国)有限公司
阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企
公司信息:
公司名称:阿里巴巴(中国)有限公司
公司类型:互联网/电子商务
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: