多模态大模型预训练算法工程师当面告知
深圳市卓驭科技有限公司
2027-02-02 23:59:59
校招27届本科硕士
岗位详情
地区:
北京
·
上海
·
深圳市
专业要求:
人工智能计算机科学与技术
岗位职责:
1. 构建全新一代具备通用场景移动能力的大模型,负责移动基座场景下原生多模态大模型的预训练算法研发,参与研发基于世界模型、自回归/Diffusion/FM等生成式架构在端侧/云端的高效训练方案,支撑通用场景移动能力的底座建设;
2. 设计并优化大规模分布式预训练框架,支持十亿至百亿级参数模型的持续Scale Up,解决训练稳定性、收敛效率及长序列建模等核心问题;
3. 研发面向移动场景的视觉-语言-动作联合预训练范式,提升模型在动态环境感知、空间推理及指令遵循方面的基础能力,让模型具备跨场景的通用移动理解能力;
4. 参与预训练数据配比策略研究,设计数据过滤、去重及质量评估机制,构建覆盖多样化移动场景的大规模预训练数据集;
5. 跟踪多模态预训练领域前沿进展(如MoE、多模态融合架构、高效Attention机制等),推动新技术在移动基座场景的快速原型验证与落地,持续夯实通用物理AI的技术底座。
任职资格:
1. 计算机科学、人工智能、电子信息等相关专业本科及以上学历,具有多模态大模型预训练项目经验;
2. 深入理解Transformer架构及预训练技术(如Masked Modeling、CLIP-style对比学习、多模态对齐等),具备从零搭建预训练pipeline的能力;
3. 熟练使用DeepSpeed/Megatron/LLaMMA-Factory等分布式训练框架,熟悉模型并行、数据并行、流水线并行等加速策略;
4. 精通PyTorch/Python,具备大规模数据处理及高性能计算优化经验,在顶级会议(CVPR/ICML/NeurIPS/ICLR)发表过相关论文者优先。
招聘要求:
工作职责:
1. 构建全新一代具备通用场景移动能力的大模型,负责移动基座场景下原生多模态大模型的预训练算法研发,参与研发基于世界模型、自回归/Diffusion/FM等生成式架构在端侧/云端的高效训练方案,支撑通用场景移动能力的底座建设;
2. 设计并优化大规模分布式预训练框架,支持十亿至百亿级参数模型的持续Scale Up,解决训练稳定性、收敛效率及长序列建模等核心问题;
3. 研发面向移动场景的视觉-语言-动作联合预训练范式,提升模型在动态环境感知、空间推理及指令遵循方面的基础能力,让模型具备跨场景的通用移动理解能力;
4. 参与预训练数据配比策略研究,设计数据过滤、去重及质量评估机制,构建覆盖多样化移动场景的大规模预训练数据集;
5. 跟踪多模态预训练领域前沿进展(如MoE、多模态融合架构、高效Attention机制等),推动新技术在移动基座场景的快速原型验证与落地,持续夯实通用物理AI的技术底座。
任职资格:
1. 计算机科学、人工智能、电子信息等相关专业本科及以上学历,具有多模态大模型预训练项目经验;
2. 深入理解Transformer架构及预训练技术(如Masked Modeling、CLIP-style对比学习、多模态对齐等),具备从零搭建预训练pipeline的能力;
3. 熟练使用DeepSpeed/Megatron/LLaMMA-Factory等分布式训练框架,熟悉模型并行、数据并行、流水线并行等加速策略;
4. 精通PyTorch/Python,具备大规模数据处理及高性能计算优化经验,在顶级会议(CVPR/ICML/NeurIPS/ICLR)发表过相关论文者优先。
公司介绍

深圳市卓驭科技有限公司
深圳市卓驭科技有限公司,成立于2022-10-28,位于广东,法定代表人:朱露,登记状态:存续,注册资本8393.2601万人民币,公司类型:国有企业
公司信息:
公司名称:深圳市卓驭科技有限公司
公司类型:计算机硬件
公司性质:1000-4999人
公司地点:
公司规模:--
涉及领域:--
公司网址: