面向手机等资源受限设备，开展模型量化、剪枝与压缩技术研发，在保持模型能力的同时降低计算和存储开销，推动大模型及多模态模型在智能终端落地。 岗位职责 1. 研究大模型及多模态模型的低比特量化技术，包括权重、激活及缓存等关键模块的精度与效率优化。 2. 研究训练后量化、量化感知训练、混合精度等方法，解决量化过程中的误差累积、异常值和能力退化问题。 3. 研究结构化剪枝、非结构化剪枝与稀疏化技术，探索层、通道、注意力模块等不同粒度的模型压缩方法。 4. 研究量化、剪枝与知识蒸馏的联合优化，在降低模型参数量和计算量的同时保持关键任务能力。 5. 结合终端芯片、算子和推理运行环境开展软硬件协同优化，提升压缩模型的实际执行效率。 6. 建设模型压缩与真机评测流程，综合评估模型效果、运行速度、内存占用及功耗表现，推动技术落地。 1. 硕士及以上学历，计算机、人工智能、软件工程、数学、电子工程等相关专业优先。 2. 具备扎实的机器学习、深度学习基础和良好的编程能力，熟练掌握 Python，了解 C++ 者优先。 3. 对模型压缩、端侧推理及软硬件协同优化等方向有浓厚兴趣，并具备一定项目、科研或实习经历。 4. 以下任一方向具有相关经验即可：模型量化、模型剪枝、稀疏计算、知识蒸馏、模型压缩或推理优化。 5. 在相关领域国际顶级会议或期刊发表过论文，或在头部科技公司、研究机构具有相关实习经历者优先。 6. 具备较强的问题分析和工程实践能力，能够围绕模型效果与运行效率开展持续优化。