混元基座模型-中小尺寸模型优化相关前沿技术探索当面告知

深圳市腾讯计算机系统有限公司
2027-02-07 20:30:22
校招25届26届硕士

岗位详情

地区:

北京市

专业要求:

数据科学人工智能计算机科学与技术软件工程

岗位职责:

课题详情: 课题背景: 随着大语言模型进入"普惠化"时代,中小尺寸模型因其部署成本低、推理速度快、端侧适配性强等优势,正成为产业落地的核心选择。然而,受限于参数容量,中小模型在知识密度、推理深度和任务泛化性上天然弱于大模型。当前优化范式正从"大力出奇迹"的预训练扩展,转向知识蒸馏、高效架构设计、数据课程学习与动态推理为核心的"小而强"技术路线。如何在有限参数预算内实现能力密度最大化,并支撑端侧实时交互与垂直场景深度适配,已成为模型工程化的关键命题。 课题挑战: 1、知识蒸馏的效率瓶颈:大模型向中小模型蒸馏时普遍存在能力衰减、知识选择性迁移困难等问题,如何设计任务感知的多教师蒸馏策略与动态难度课程,实现知识密度的压缩而非简单迁移,仍缺乏系统性方案; 2、推理效率与质量的两难权衡:中小模型在复杂推理任务上需要更多解码步数才能收敛到正确结果,导致延迟激增;而简单的长度惩罚或早停策略又容易损害答案准确性。如何构建自适应推理深度控制机制,在正确率、响应速度与用户体验之间实现动态平衡,是端侧部署的核心挑战; 3、数据效率与持续学习瓶颈:中小模型对数据质量和课程更为敏感,如何构建面向能力缺陷的自适应数据筛选、增量式技能注入与灾难性遗忘抑制机制,实现垂直场景的快速适配与持续进化,仍是开放问题。 具体工作: 你将参与中小模型训练方法优化、知识蒸馏策略优化、数据驱动的能力迭代,以及端侧部署优化,持续探索有限参数预算下的能力边界与效率极限。 课题要求: 1、自然语言处理/机器学习/模式识别/人工智能/计算机等相关专业硕士以上学历; 2、在NLP、LLM领域有深入实践,对生成式AI、agent、RL或特定垂域(如金融、法律、医疗、STEM、数学等)有丰富的数据构建经验; 3、较强的工程实现能力,熟练掌握Python,熟悉各种agent框架和MCP协议; 4、有高质量论文发表者优先(如ACL、EMNLP、NeurIPS、ICML、ICLR等),特别是在数据合成、模型微调或特定垂域能力突破方向; 5、具备强烈的进取心、自驱力及跨领域学习能力,团队合作精神极佳,对实现AGI核心能力跃迁充满热情。

招聘要求:

课题详情: 课题背景: 随着大语言模型进入"普惠化"时代,中小尺寸模型因其部署成本低、推理速度快、端侧适配性强等优势,正成为产业落地的核心选择。然而,受限于参数容量,中小模型在知识密度、推理深度和任务泛化性上天然弱于大模型。当前优化范式正从"大力出奇迹"的预训练扩展,转向知识蒸馏、高效架构设计、数据课程学习与动态推理为核心的"小而强"技术路线。如何在有限参数预算内实现能力密度最大化,并支撑端侧实时交互与垂直场景深度适配,已成为模型工程化的关键命题。 课题挑战: 1、知识蒸馏的效率瓶颈:大模型向中小模型蒸馏时普遍存在能力衰减、知识选择性迁移困难等问题,如何设计任务感知的多教师蒸馏策略与动态难度课程,实现知识密度的压缩而非简单迁移,仍缺乏系统性方案; 2、推理效率与质量的两难权衡:中小模型在复杂推理任务上需要更多解码步数才能收敛到正确结果,导致延迟激增;而简单的长度惩罚或早停策略又容易损害答案准确性。如何构建自适应推理深度控制机制,在正确率、响应速度与用户体验之间实现动态平衡,是端侧部署的核心挑战; 3、数据效率与持续学习瓶颈:中小模型对数据质量和课程更为敏感,如何构建面向能力缺陷的自适应数据筛选、增量式技能注入与灾难性遗忘抑制机制,实现垂直场景的快速适配与持续进化,仍是开放问题。 具体工作: 你将参与中小模型训练方法优化、知识蒸馏策略优化、数据驱动的能力迭代,以及端侧部署优化,持续探索有限参数预算下的能力边界与效率极限。 课题要求: 1、自然语言处理/机器学习/模式识别/人工智能/计算机等相关专业硕士以上学历; 2、在NLP、LLM领域有深入实践,对生成式AI、agent、RL或特定垂域(如金融、法律、医疗、STEM、数学等)有丰富的数据构建经验; 3、较强的工程实现能力,熟练掌握Python,熟悉各种agent框架和MCP协议; 4、有高质量论文发表者优先(如ACL、EMNLP、NeurIPS、ICML、ICLR等),特别是在数据合成、模型微调或特定垂域能力突破方向; 5、具备强烈的进取心、自驱力及跨领域学习能力,团队合作精神极佳,对实现AGI核心能力跃迁充满热情。

公司介绍

深圳市腾讯计算机系统有限公司

深圳市腾讯计算机系统有限公司

深圳市腾讯计算机系统有限公司,成立于1998-11-11,位于广东,法定代表人:马化腾,登记状态:存续,注册资本6500万人民币,公司类型:民营/私企

公司信息:


公司名称:深圳市腾讯计算机系统有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: