【蚂蚁星】大模型训练与推理加速工程师-百灵-27届当面告知
蚂蚁科技集团股份有限公司
2026-11-22 00:00:00
27届实习本科
岗位详情
地区：
北京
·
上海
·
杭州市
专业要求：
人工智能计算机科学与技术软件工程
岗位职责：
作为 Ling Team 的 Infra 团队，我们核心聚焦百灵模型的训练与推理加速，致力于提升模型研发效率，支撑百灵模型快速迭代。
职位描述：
1. 负责百灵模型训练与推理加速，涵盖并行架构、低精度计算、算子与显存优化、跨机通信、数据预处理等关键模块的性能优化；
2. 面向万卡规模训练与推理场景，研究效率 scaling 理论，持续挖掘硬件与系统的理论性能上限；
3. 与算法团队深度协同开展 co-design，共同设计和优化领先的模型架构。
招聘要求：
1. 深入理解分布式训练体系（TP / PP / SP / EP / CP 等）；
2. 熟练使用Pytorch深度学习框架，对自动微分有理解；
2. 熟悉主流大模型训练框架底层实现（Megatron / DeepSpeed / FSDP 等）；
3. 熟悉 CUDA / Cutlass / 通信优化原理；
4. 具备从第一性原理推导系统设计的能力；
5. 对分布式系统性能分析有深入的了解；
6. 对 scaling law 与系统瓶颈具备分析能力；
7. 数学建模能力，能对工程问题进行理论建模。
加分项：
1. 有 100B 以上 MoE 模型预训练系统经验；
2. 有 FP8 / FP4 混合精度工程落地经验；
3. 有长上下文（100K+）训练与推理优化经验；
4. 有超大规模集群稳定性与容错系统设计经验；
5. 对算子融合与 kernel 级优化有实践经验；
6. 有深度学习框架开发经验；
7. 在顶会 / 顶刊发表过系统或架构相关论文；
8. 各类高水平竞赛金牌选手。
公司介绍
蚂蚁科技集团股份有限公司
蚂蚁科技集团股份有限公司，成立于2000-10-19，位于浙江，法定代表人：韩歆毅，登记状态：存续，注册资本3500000万人民币，公司类型：民营/私企
蚂蚁集团是中国较大的移动支付平台支付宝的母公司，也是全球金融科技开放平台，致力于以科技推动包括金融服务业在内的全球现代服务业的数字化升级，携手合作伙伴为消费者和小微企业提供普惠、绿色、可持续的服务，为世界带来微小而美好的改变。