算法工程师(博士专项)|2027校招当面告知

浙江核新同花顺网络信息股份有限公司
2027-01-02 18:53:28
校招博士27届本科硕士

岗位详情

地区:

杭州市

专业要求:

人工智能

岗位职责:

1. 负责大语言模型/多模态基座模型的预训练、持续预训练及模型能力迭代,包括模型结构、训练策略、数据配比、Scaling、优化器等核心方向; 2. 负责大规模分布式训练实验设计与落地,持续优化模型训练稳定性、收敛效率及最终效果; 3. 参与百卡至千卡级训练任务,针对 Loss Spike、训练中断、数值稳定性、通信瓶颈、显存及算力利用率等问题进行分析和优化; 4. 结合模型规模、数据规模与算力资源,设计 DP / TP / PP / SP / CP / EP 等并行策略,并持续提升训练吞吐与资源利用效率; 5. 跟踪并实践前沿基模训练技术,包括 Dense/MoE、长上下文、低精度训练、Scaling Law、数据工程及训练稳定性等方向; 6. 与数据、Infra、后训练及产品团队协作,持续提升基座模型的通用能力和下游任务表现。 1. 计算机、人工智能、数学等相关专业本科及以上学历,硕士/博士优先; 2. 硬性要求:实际参与过百卡及以上规模的大模型训练任务,能够清晰说明训练规模、模型规模、并行方案、关键训练问题及本人负责部分; 3. 有千卡及以上基模预训练/持续预训练实战经验者优先; 4. 深入理解 Transformer、大模型预训练及 Scaling 相关原理,具备模型训练、实验设计和问题定位能力; 5. 熟悉 PyTorch,以及 Megatron-LM、DeepSpeed、FSDP 等至少一种大规模分布式训练体系; 6. 熟悉 DP / TP / PP / SP / CP / EP、ZeRO、Checkpoint、混合精度等训练技术,对 NCCL、通信和 GPU 集群训练有实际理解; 7. 对训练数据、数据配比、模型收敛、Loss 曲线和训练稳定性具备较强的分析判断能力; 8. 具备较强的工程和实验能力,能够推动复杂训练任务从实验到稳定运行。 加分项 1. 有【千卡级及以上】Dense / MoE 基座模型完整训练经验; 2. 有从模型方案、数据、训练到评测较完整的基模训练 Ownership; 3. 有百亿/千亿参数模型、万亿级 Token 训练经验; 4. 有训练效率、MFU、通信、Checkpoint 或稳定性优化经验,并有明确量化结果; 5. 在 NeurIPS、ICML、ICLR、ACL、MLSys 等相关会议有高质量研究成果; 6. 有 Megatron、DeepSpeed、PyTorch、TransformerEngine 等训练框架核心贡献经验。

招聘要求:

1. 负责大语言模型/多模态基座模型的预训练、持续预训练及模型能力迭代,包括模型结构、训练策略、数据配比、Scaling、优化器等核心方向; 2. 负责大规模分布式训练实验设计与落地,持续优化模型训练稳定性、收敛效率及最终效果; 3. 参与百卡至千卡级训练任务,针对 Loss Spike、训练中断、数值稳定性、通信瓶颈、显存及算力利用率等问题进行分析和优化; 4. 结合模型规模、数据规模与算力资源,设计 DP / TP / PP / SP / CP / EP 等并行策略,并持续提升训练吞吐与资源利用效率; 5. 跟踪并实践前沿基模训练技术,包括 Dense/MoE、长上下文、低精度训练、Scaling Law、数据工程及训练稳定性等方向; 6. 与数据、Infra、后训练及产品团队协作,持续提升基座模型的通用能力和下游任务表现。 1. 计算机、人工智能、数学等相关专业本科及以上学历,硕士/博士优先; 2. 硬性要求:实际参与过百卡及以上规模的大模型训练任务,能够清晰说明训练规模、模型规模、并行方案、关键训练问题及本人负责部分; 3. 有千卡及以上基模预训练/持续预训练实战经验者优先; 4. 深入理解 Transformer、大模型预训练及 Scaling 相关原理,具备模型训练、实验设计和问题定位能力; 5. 熟悉 PyTorch,以及 Megatron-LM、DeepSpeed、FSDP 等至少一种大规模分布式训练体系; 6. 熟悉 DP / TP / PP / SP / CP / EP、ZeRO、Checkpoint、混合精度等训练技术,对 NCCL、通信和 GPU 集群训练有实际理解; 7. 对训练数据、数据配比、模型收敛、Loss 曲线和训练稳定性具备较强的分析判断能力; 8. 具备较强的工程和实验能力,能够推动复杂训练任务从实验到稳定运行。 加分项 1. 有【千卡级及以上】Dense / MoE 基座模型完整训练经验; 2. 有从模型方案、数据、训练到评测较完整的基模训练 Ownership; 3. 有百亿/千亿参数模型、万亿级 Token 训练经验; 4. 有训练效率、MFU、通信、Checkpoint 或稳定性优化经验,并有明确量化结果; 5. 在 NeurIPS、ICML、ICLR、ACL、MLSys 等相关会议有高质量研究成果; 6. 有 Megatron、DeepSpeed、PyTorch、TransformerEngine 等训练框架核心贡献经验。

公司介绍

浙

浙江核新同花顺网络信息股份有限公司

浙江核新同花顺网络信息股份有限公司,成立于2001-08-24,位于浙江,法定代表人:易峥,登记状态:存续,注册资本53760万人民币,公司类型:其他
公司信息:
公司名称:浙江核新同花顺网络信息股份有限公司
公司类型:互联网/电子商务
公司性质:1000-4999人
公司地点:
公司规模:--
涉及领域:--
公司网址: