研究型实习生 - 大模型推理加速以及高效微调核心技术研究当面告知
阿里巴巴(中国)有限公司
2027-02-07 21:45:24
博士27届28届实习硕士
岗位详情
地区:
杭州市
专业要求:
人工智能计算机科学与技术软件工程
岗位职责:
职位描述:
1.设计和实现面向大模型推理的多层级存储系统,综合利用多种硬件进行数据的存储和迁移管理,优化大模型缓存利用率,提升推理性能;
2.设计负载感知的推理框架自调优能力,设计高效的指标采集模块,能够根据对不同负载自动调优推理框架的参数;
3.优化模型量化以及模型卸载技术,进一步提升单机场景下支持的模型规模;
4.设计高效微调框架,集成并优化微调算法,实现动态策略调度模块,基于任务特征挑选最合适的微调方案。
招聘要求:
1.计算机科学、人工智能、软件工程或相关专业在读博士,硕士;
2.有相关领域顶会论文(包括但不限于ICML,ICLR,AAAI,NeuralPS,VLDB,SIGMOD等)发表经验;
3.熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言,具备复杂系统的设计开发与调试能力;
4.熟悉至少一种大模型推理或微调框架,包括但不限于:DeepSpeed、LLaMA-Factory、vLLM、SGLang等;
5.有强烈的工作责任心,较好的学习能力、沟通能力和自驱力,能够快速的响应和行动。
加分项:
1.理解GPU硬件架构,理解GPU软件栈(CUDA,cuDNN),具备GPU性能分析的经验;
2.有大模型推理或微调相关的技术落地经验,比如:KVCache相关优化的实现。
公司介绍

阿里巴巴(中国)有限公司
阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企
公司信息:
公司名称:阿里巴巴(中国)有限公司
公司类型:互联网/电子商务
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: