面向大模型推理的通用后端运行时系统研究-阿里星/A Star当面告知

阿里巴巴(中国)有限公司
2027-02-07 21:44:13
校招博士27届本科硕士

岗位详情

地区:

北京

专业要求:

计算机科学与技术软件工程

岗位职责:

1.负责面向大模型推理场景的通用后端运行时系统研究与架构设计,核心目标是构建引擎无关的系统层,统一管理推理进程状态、模型权重生命周期与GPU设备资源; 2.研究并优化推理进程的高效快照与恢复机制,在Linux CRIU基础上针对GPU推理进程进行深度定制,推动关键路径逼近PCIe/RDMA硬件带宽极限; 3.设计模型权重的跨进程、跨实例共享机制,支撑多模型混部、热升级、弹性扩缩容等生产场景下的零拷贝权重复用; 4.与百炼推理平台团队紧密协作,将后端运行时能力落地到模型上下线、故障恢复、跨可用区调度等真实业务链路,形成可量化的成本与弹性收益。

招聘要求:

1.2027届毕业生,计算机科学、软件工程或相关专业,研究方向涉及操作系统、高性能计算或AI基础设施 2.扎实的系统编程能力,精通C/C++,对Linux内核机制(进程管理、内存管理、cgroup/namespace)有深入理解 3.熟悉以下至少一项:进程checkpoint/restore(如CRIU)、GPU编程与CUDA Runtime内部机制、容器/虚拟化技术、高性能I/O(RDMA/DMA/PCIe)、推理框架(如SGLang)、kvcache(如Mooncake) 加分项: 1.在OSDI/SOSP/EuroSys/ATC/ASPLOS/NSDI等系统顶会有论文发表; 2.有CRIU、Linux内核、GPU驱动或虚拟化相关的开源贡献经验; 3.熟悉LLM推理系统架构(vLLM/SGLang/TRT-LLM),理解推理进程的运行时行为特征; 4. 有GPU显存管理、CUDA VMM、Multi-Process Service等GPU系统层面的研发经验。

公司介绍

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企

公司信息:


公司名称:阿里巴巴(中国)有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: