大模型推理前沿技术研究-阿里星/C-Star当面告知

阿里巴巴(中国)有限公司
2027-02-07 21:43:41
其他校招27届

岗位详情

地区:

北京
·
杭州市

专业要求:

人工智能计算机科学与技术

岗位职责:

在这里,你将深入大模型计算的核心腹地,横跨算法压缩与系统工程,从万亿参数模型的轻量化创新到万卡集群的极致性能调优,打通从模型结构创新、高效压缩、到算子内核与分布式系统的全链路技术栈,打造全球领先的训练与推理加速引擎。 1、极致算子与内核开发 手写高性能GPU/NPU核心算子(CUDA/Triton),针对低比特量化、稀疏计算、注意力机制等场景深度挖掘硬件算力,结合编译优化与性能剖析(Nsight系列)突破计算瓶颈; 2、模型压缩与轻量化 研发FP8/INT4/INT8量化(PTQ/QAT)、结构化/非结构化稀疏、动态剪枝、低秩近似(LoRA)及MoE技术;利用强化学习(RL)与AutoML构建自动化压缩流水线,实现精度-效率帕累托最优; 3、分布式训练与通信优化 深度优化Megatron-LM、DeepSpeed等框架,突破万卡集群通信瓶颈,设计拓扑感知调度、通信压缩(如梯度压缩)、计算与通信重叠等策略,提升 scaling efficiency; 4、前沿推理架构落地 研究并部署投机采样(Speculative Decoding)、分离式推理(Disaggregated Inference)、KV Cache优化等技术,在生产环境实现延迟与吞吐的数量级提升。

招聘要求:

1、在MLSys、NeurIPS、ICML、ACL等顶会/顶刊发表过论文; 2、在国际顶级竞赛(ACM/ICPC等)中取得冠亚军或优异成绩; 3、深度参与或主导贡献过顶级开源项目(vLLM/SGLang/TensorRT-LLM/Megatron-LM等)。

公司介绍

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企

公司信息:


公司名称:阿里巴巴(中国)有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: