LLM Pretrain算法实习生-基模当面告知
上海米哈游网络科技股份有限公司
2027-02-05 16:47:24
博士28届29届实习硕士
岗位详情
地区：
北京
·
上海
专业要求：
人工智能计算机科学与技术
岗位职责：
1. 专研训练框架，快速定位训练中出现的问题，分析训练过程中的模型表现，跟infra team合作来保证训练策略的正确性
2. 紧跟领域前沿技术，研究新型LLM模型架构，提升训练或推理的计算效率和模型性能
3. 研究不同架构、数据、目标函数和优化方法等各个算法方面的scaling law，总结出高效稳定的预训练策略
4. 拓展模型在长文本理解和生成的能力
招聘要求：
1. 计算机科学、人工智能或相关领域的在读硕士或博士
2. 在自然语言处理、大语言模型研究或机器学习领域中具有相关研究经验
3. 具备扎实的代码与算法基础，熟练掌握PyTorch等深度学习框架
4. 具备有效的沟通和协作技能，对探索新技术和推动技术创新充满热情
加分项：
1. 在NeurIPS/ICML/ACL/EMNLP等顶级会议上发表过高引论文
2. 在ACM/ICPC，NOI/IOI，TopCoder等编程竞赛上有获奖
3. 具有大规模训练大模型经历，了解分布式训练框架及对应的性能调优和资源管理
4. 对不同LLM模型结构（如MoE，sparse attention等）有过深入理解和分析，有发表过论文探索模型结构更佳
公司介绍
上
上海米哈游网络科技股份有限公司
上海米哈游网络科技股份有限公司，成立于2012-02-13，位于上海，法定代表人：刘伟，登记状态：存续，注册资本31716.6663万人民币，公司类型：民营/私企
公司信息:公司名称:上海米哈游网络科技股份有限公司公司类型:网络游戏公司性质:1000-4999人公司地点:公司规模:--涉及领域:--公司网址: