AI Infra 工程师当面告知

度小满科技(北京)有限公司
2026-11-18 18:17:15
校招27届本科硕士

岗位详情

地区:

北京

专业要求:

人工智能计算机科学与技术软件工程

岗位职责:

1、负责大模型推理框架的开发与优化,包括算子优化、显存/KV Cache 管理优化、分布式加速等技术方向; 2、参与高并发场景下的推理性能分析与瓶颈定位,推动改进方案落地; 3、探索低资源下的轻量化推理方案:量化、投机采样、Sparse Attention 等; 4、参与 Disaggregated Serving / PD 分离等新型推理架构的设计与实现; 5、与算法、业务团队协作,推动优化技术在业务中的规模化应用。 1、计算机、人工智能、软件工程等相关专业本科及以上; 2、熟悉大模型推理优化方法,对主流开源推理框架(TensorRT-LLM、vLLM、SGLang 等)有开发或深度使用经验; 3、精通 Python/C++ 编程,有 CUDA 开发及 GPU 调优经验者优先; 4、具备良好的系统性能分析能力,熟悉 nsight/nvidia-smi/py-spy 等分析工具者优先。 加分项: 1、有国产 GPU(如昇腾、昆仑、PPU等)适配与优化经验; 2、有 Mooncake 等 KV Cache 分离存储系统的使用或开发经验; 3、有顶会论文、竞赛获奖或相关实习经验; 4、有 Disaggregated Serving、PD 分离等推理架构的实际落地经验。

招聘要求:

1、负责大模型推理框架的开发与优化,包括算子优化、显存/KV Cache 管理优化、分布式加速等技术方向; 2、参与高并发场景下的推理性能分析与瓶颈定位,推动改进方案落地; 3、探索低资源下的轻量化推理方案:量化、投机采样、Sparse Attention 等; 4、参与 Disaggregated Serving / PD 分离等新型推理架构的设计与实现; 5、与算法、业务团队协作,推动优化技术在业务中的规模化应用。 1、计算机、人工智能、软件工程等相关专业本科及以上; 2、熟悉大模型推理优化方法,对主流开源推理框架(TensorRT-LLM、vLLM、SGLang 等)有开发或深度使用经验; 3、精通 Python/C++ 编程,有 CUDA 开发及 GPU 调优经验者优先; 4、具备良好的系统性能分析能力,熟悉 nsight/nvidia-smi/py-spy 等分析工具者优先。 加分项: 1、有国产 GPU(如昇腾、昆仑、PPU等)适配与优化经验; 2、有 Mooncake 等 KV Cache 分离存储系统的使用或开发经验; 3、有顶会论文、竞赛获奖或相关实习经验; 4、有 Disaggregated Serving、PD 分离等推理架构的实际落地经验。

公司介绍

度小满科技(北京)有限公司

度小满科技(北京)有限公司

度小满科技(北京)有限公司,成立于2015-01-19,位于北京,法定代表人:张文斌,登记状态:存续,注册资本1111200万人民币,公司类型:民营/私企
公司信息:
公司名称:度小满科技(北京)有限公司
公司类型:互联网/电子商务
公司性质:1000-4999人
公司地点:
公司规模:--
涉及领域:--
公司网址: