大模型算法实习生（数据可学习性方向）当面告知
上海米哈游网络科技股份有限公司
2027-02-05 16:47:08
博士28届29届实习硕士
岗位详情
地区：
北京
·
上海
专业要求：
物理学
岗位职责：
你将深入探索大模型训练中“数据-模型-算力”的核心关系，致力于揭示数据学习的底层物理规律。具体工作内容包括：
1. 数据学习效率机制研究
• 探索数据内容、数据分布与模型学习效果之间的映射关系。
• 设计量化指标，度量训练数据的可学习性和学习阶段（如 Under-learned vs. Over-learned），并基于此优化数据清洗、分布构建、合成等流程。
2. 数据效用度量与预测
• 构建数据总效用的评估体系，探索如何预测一份数据整体的潜在学习收益。
• 研究模型训练动力学，判断训练特定阶段的数据效用饱和点，评估继续训练的边际收益（ROI），为训练停止或数据切换提供理论依据。
招聘要求：
1.计算机、数学、物理或相关专业硕士/博士在读；
2.熟练掌握 Python 及 PyTorch/JAX 等深度学习框架；
3.深刻理解学习机制： 对深度学习模型的内在学习机制有过深入研究，熟悉 "Physics of Language Models" 系列的研究思路，具备较强的理论分析或数学建模能力。
加分项：
1.在 ICML, NeurIPS, ICLR, CVPR 等顶级会议发表过相关领域（大模型理论、数据科学、优化算法）论文；
2.熟悉 Megatron-LM, DeepSpeed 等大规模分布式训练框架；
3.预训练实战经验： 具备从零构建或处理大规模预训练数据（Pre-train Data）的经验，并实际训练过不同参数规模的模型，熟悉分布式训练痛点。
公司介绍
上
上海米哈游网络科技股份有限公司
上海米哈游网络科技股份有限公司，成立于2012-02-13，位于上海，法定代表人：刘伟，登记状态：存续，注册资本31716.6663万人民币，公司类型：民营/私企
公司信息:公司名称:上海米哈游网络科技股份有限公司公司类型:网络游戏公司性质:1000-4999人公司地点:公司规模:--涉及领域:--公司网址: