研究型实习生 - 大模型推理加速以及高效微调核心技术研究当面告知

阿里巴巴(中国)有限公司
2027-02-07 21:45:24
博士27届28届实习硕士

岗位详情

地区:

杭州市

专业要求:

人工智能计算机科学与技术软件工程

岗位职责:

职位描述: 1.设计和实现面向大模型推理的多层级存储系统,综合利用多种硬件进行数据的存储和迁移管理,优化大模型缓存利用率,提升推理性能; 2.设计负载感知的推理框架自调优能力,设计高效的指标采集模块,能够根据对不同负载自动调优推理框架的参数; 3.优化模型量化以及模型卸载技术,进一步提升单机场景下支持的模型规模; 4.设计高效微调框架,集成并优化微调算法,实现动态策略调度模块,基于任务特征挑选最合适的微调方案。

招聘要求:

1.计算机科学、人工智能、软件工程或相关专业在读博士,硕士; 2.有相关领域顶会论文(包括但不限于ICML,ICLR,AAAI,NeuralPS,VLDB,SIGMOD等)发表经验; 3.熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言,具备复杂系统的设计开发与调试能力; 4.熟悉至少一种大模型推理或微调框架,包括但不限于:DeepSpeed、LLaMA-Factory、vLLM、SGLang等; 5.有强烈的工作责任心,较好的学习能力、沟通能力和自驱力,能够快速的响应和行动。 加分项: 1.理解GPU硬件架构,理解GPU软件栈(CUDA,cuDNN),具备GPU性能分析的经验; 2.有大模型推理或微调相关的技术落地经验,比如:KVCache相关优化的实现。

公司介绍

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企

公司信息:


公司名称:阿里巴巴(中国)有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: