**方向描述** 负责大模型推理服务的**全栈系统集成与性能调优**，从上层推理框架的接口适配，到底层硬件加速器的驱动开发与数据通路打通，再到端到端性能的量化评估与瓶颈定位。你将成为连接算法、硬件与业务的关键枢纽。 **核心工作内容** - 与主流**推理服务框架**（vLLM、SGLang、TensorRT-LLM 等）进行深度接口集成与二次开发，包括自定义算子接入、调度策略扩展、前后处理流水线适配等 - 参与**AI 硬件加速器**的系统级集成，涵盖 PCIe 设备驱动开发、DMA 数据通路设计、主机端与设备端的协同调度 - 设计并执行推理系统的**性能基准测试**，从延迟、吞吐、显存占用、功耗等多维度建立评估体系，定位并消除系统瓶颈 - 与算法团队协作，将新的数据表示与优化算法落地到实际推理链路中，验证其在真实负载下的收益 **我们希望你** - 熟悉至少一种主流推理框架的内部架构，有二次开发或深度调优经验 - 精通 C/C++，熟悉 Python，有 CUDA/ROCm 等 GPU 编程经验者优先 - 了解 PCIe 协议、DMA 原理、设备驱动开发（Linux 内核态 / 用户态驱动） - 有系统性能分析经验，熟练使用 perf、nsys、vtune 等 profiling 工具 - 加分项：有大模型推理服务上线经验、FPGA/ASIC 加速器集成经验、或参与过开源推理框架贡献