大模型推理优化-算子与框架适配-阿里星/A Star当面告知
阿里巴巴(中国)有限公司
2027-02-07 21:44:13
其他校招27届
岗位详情
地区:
北京
·
杭州市
专业要求:
人工智能计算机科学与技术软件工程
岗位职责:
1. 参与vLLM/SGLang等开源推理引擎的底层算子优化,重点攻关高性能Attention算子创新,通过编译优化(Triton/CUDA Graphs)提升单服务实例的推理性能;
2. 负责异构硬件的适配与算子自动调优,最大化利用硬件特性(Tensor Core、HBM带宽、NVLink拓扑);
3. 配合前沿模型压缩算法(量化、剪枝、蒸馏)探索算子级优化方案,创新请求调度算法,优化用户体验和系统吞吐;
支撑云上客户大模型部署标杆场景,将技术成果沉淀为PAI推理服务核心特性;
4. 探索云上混部署方法,将不同尺寸、不同访问频度、不同优先级的模型混合部署在异构资源池中,并保证SLA。通过请求调度方法的创新、资源共享方法创新,降低总体部署成本、提升资源利用率和弹性;
5. 推动底层算子优化方向的学术影响力和开源影响力产出。
招聘要求:
1. 具备扎实的计算机基础知识、C++/Python编程能力,熟悉常见数据结构和设计模式;
2. 具有很强的学习能力、复杂问题归纳梳理能力、沟通和团队协作能力,具备能够深度钻研技术的耐心;
3. 有很强的学术研究能力和优秀的学术成果(AI领域顶会/顶刊论文)。
公司介绍

阿里巴巴(中国)有限公司
阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企
公司信息:
公司名称:阿里巴巴(中国)有限公司
公司类型:互联网/电子商务
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: