针对超长序列输入，异构样本数据，设计和实现超大规模分布式大模型训练框架。结合多种上下文长度、多种模态的样本数据，适配稀疏混合专家模型、稀疏注意力机制等新型大模型结构。对算子优化、通信优化进行深入的挖掘，消除模型并行、流水并行等实现的瓶颈。设计数据感知的训练方案，消除异构数据对效率影响。联合多种新硬件，达到极致的训练推理成本，推进大模型在国内最大的电商场景的业务落地。 职位职责包括但不限于： 1. 设计和实现机器学习系统所需要的大规模分布式计算系统，参与机器学习全生命周期（训练、推理、MLOps、CI/CD、AB testing）组件的开发与优化。 2. 构建业界领先的超大规模稀疏训练引擎，通过软硬件协同以及工程算法联合优化，持续榨取高性能异构硬件的性能潜力，不断推高分布式训练的性能天花板。 3. 构建业界先进的多模态、大语言训练引擎，通过持续的分布式训练优化，不断提升算法的训练规模，提升硬件的使用效率。 4. 构建超大规模全流程机器学习平台，覆盖从特征工程、样本构建到模型量化交付，并通过构建SQL计算引擎、分布式特征服务、样本湖等，提升特征样本计算存储效率。 5. 图学习、联邦学习、强化学习等多个AI方向算法工程解决方案的探索和落地。 6. 在机器学习系统的前沿领域（如分布式训练、软硬协同设计等）参与应用驱动的研