校招- AI Infra工程师（推理优化方向）(J18091)当面告知
零跑汽车有限公司
2026-11-19 17:27:42
校招博士27届硕士
岗位详情
地区：
杭州市
专业要求：
人工智能自动化软件工程计算机类电子信息类
岗位职责：
1、负责大模型云端推理框架的研发与性能优化，构建高吞吐、低延迟的高性能推理服务，支撑大模型在云端的高效部署与规模化服务；
2、参与推理引擎的集成与优化，基于 vLLM/SGLang/TensorRT-LLM 等主流推理引擎，落地模型量化（GPTQ/AWQ/INT8）、动态批处理（Continuous Batching）与 KV-Cache 管理等核心特性；
3、负责推理计算、通信、存储的端到端优化，深入优化 prefill/decode 阶段的算子性能、访存效率与显存占用，提升单卡吞吐与服务并发能力；
4、探索并落地 LLM 推理前沿优化技术，如 KV Cache 优化、投机采样（Speculative Decoding）、PagedAttention、Prefix Caching 等，持续降低首字延迟（TTFT）并提升吞吐量；
5、建立端到端的推理 Profiling 体系，提供吞吐量、首字延迟（TTFT）、显存峰值、并发数等核心指标的量化分析与优化建议，协助算法团队定位推理性能瓶颈；
6、探索推理服务前沿技术（如多模态推理、长上下文推理、 disaggregated 推理架构等），沉淀推理部署最佳实践，与 AI Infra 团队协作落地高性能推理方案。
招聘要求：
1、硕士及以上学历，计算机类、电子信息类、软件工程、人工智能、自动化等相关专业；
2、扎实的计算机基础，掌握数据结构与算法、操作系统、计算机网络等核心知识；熟练掌握 Python，熟悉异步/并发编程，具备良好的代码规范，了解 C++、CUDA 编程；
3、熟悉 Linux 环境与容器化基本功，掌握 Docker 基本使用、Shell 脚本及常见调试排障方法；理解高并发服务系统基本概念，如异步 I/O、连接池、限流/重试/熔断等；
4、对推理加速方向有课程项目、竞赛或实习经历：熟悉主流推理引擎（vLLM/SGLang/TensorRT-LLM）架构与使用，了解模型量化、剪枝、蒸馏或 KV-Cache 优化原理，了解 Continuous Batching、PagedAttention 等技术；
5、加分项（任一即可）：1. 了解 KV Cache、投机采样、Prefix Caching 等 LLM 推理优化技术；2. 有 CUDA/Triton 算子编写与性能调优经验；3. 参与过大模型高并发推理服务部署与落地；4. 有自动驾驶（感知/规划/决策）算法推理部署经验；5. 有开源贡献/技术博客/完整工程作品集（GitHub/Gitee）；
6、具备良好的沟通协作与文档能力，主动性强，愿意跨团队合作落地 AI 能力。
公司介绍
零
零跑汽车有限公司
零跑汽车有限公司，成立于2017-01-12，位于浙江，法定代表人：朱江明，登记状态：存续，注册资本470800万人民币，公司类型：民营/私企
公司信息:公司名称:零跑汽车有限公司公司类型:机械制造/机电/重工公司性质:民营企业公司地点:浙江省金华市公司规模:5000以上涉及领域:--公司网址:--