多模态大模型预训练算法工程师当面告知

深圳市卓驭科技有限公司
2027-02-02 23:59:59
校招27届本科硕士

岗位详情

地区:

北京
·
上海
·
深圳市

专业要求:

人工智能计算机科学与技术

岗位职责:

1. 构建全新一代具备通用场景移动能力的大模型,负责移动基座场景下原生多模态大模型的预训练算法研发,参与研发基于世界模型、自回归/Diffusion/FM等生成式架构在端侧/云端的高效训练方案,支撑通用场景移动能力的底座建设; 2. 设计并优化大规模分布式预训练框架,支持十亿至百亿级参数模型的持续Scale Up,解决训练稳定性、收敛效率及长序列建模等核心问题; 3. 研发面向移动场景的视觉-语言-动作联合预训练范式,提升模型在动态环境感知、空间推理及指令遵循方面的基础能力,让模型具备跨场景的通用移动理解能力; 4. 参与预训练数据配比策略研究,设计数据过滤、去重及质量评估机制,构建覆盖多样化移动场景的大规模预训练数据集; 5. 跟踪多模态预训练领域前沿进展(如MoE、多模态融合架构、高效Attention机制等),推动新技术在移动基座场景的快速原型验证与落地,持续夯实通用物理AI的技术底座。 任职资格: 1. 计算机科学、人工智能、电子信息等相关专业本科及以上学历,具有多模态大模型预训练项目经验; 2. 深入理解Transformer架构及预训练技术(如Masked Modeling、CLIP-style对比学习、多模态对齐等),具备从零搭建预训练pipeline的能力; 3. 熟练使用DeepSpeed/Megatron/LLaMMA-Factory等分布式训练框架,熟悉模型并行、数据并行、流水线并行等加速策略; 4. 精通PyTorch/Python,具备大规模数据处理及高性能计算优化经验,在顶级会议(CVPR/ICML/NeurIPS/ICLR)发表过相关论文者优先。

招聘要求:

工作职责: 1. 构建全新一代具备通用场景移动能力的大模型,负责移动基座场景下原生多模态大模型的预训练算法研发,参与研发基于世界模型、自回归/Diffusion/FM等生成式架构在端侧/云端的高效训练方案,支撑通用场景移动能力的底座建设; 2. 设计并优化大规模分布式预训练框架,支持十亿至百亿级参数模型的持续Scale Up,解决训练稳定性、收敛效率及长序列建模等核心问题; 3. 研发面向移动场景的视觉-语言-动作联合预训练范式,提升模型在动态环境感知、空间推理及指令遵循方面的基础能力,让模型具备跨场景的通用移动理解能力; 4. 参与预训练数据配比策略研究,设计数据过滤、去重及质量评估机制,构建覆盖多样化移动场景的大规模预训练数据集; 5. 跟踪多模态预训练领域前沿进展(如MoE、多模态融合架构、高效Attention机制等),推动新技术在移动基座场景的快速原型验证与落地,持续夯实通用物理AI的技术底座。 任职资格: 1. 计算机科学、人工智能、电子信息等相关专业本科及以上学历,具有多模态大模型预训练项目经验; 2. 深入理解Transformer架构及预训练技术(如Masked Modeling、CLIP-style对比学习、多模态对齐等),具备从零搭建预训练pipeline的能力; 3. 熟练使用DeepSpeed/Megatron/LLaMMA-Factory等分布式训练框架,熟悉模型并行、数据并行、流水线并行等加速策略; 4. 精通PyTorch/Python,具备大规模数据处理及高性能计算优化经验,在顶级会议(CVPR/ICML/NeurIPS/ICLR)发表过相关论文者优先。

公司介绍

深圳市卓驭科技有限公司

深圳市卓驭科技有限公司

深圳市卓驭科技有限公司,成立于2022-10-28,位于广东,法定代表人:朱露,登记状态:存续,注册资本8393.2601万人民币,公司类型:国有企业

公司信息:


公司名称:深圳市卓驭科技有限公司


公司类型:计算机硬件


公司性质:1000-4999人


公司地点:


公司规模:--


涉及领域:--


公司网址: