2027届-AI 存储固件工程师(大模型推理方向)(J11580)当面告知

深圳市江波龙电子股份有限公司
2026-12-27 19:12:48
校招博士27届硕士

岗位详情

地区:

上海

专业要求:

微电子科学与工程

岗位职责:

1. 参与 LLM 推理与本地存储的软硬件协同优化,主要面向 vLLM / SGLang / llama.cpp 等主流推理框架。 2. 负责大模型推理过程中的数据分层调度,包括但不限于:KV Cache 在内存 ↔ SSD 之间的换入换出与预取策略;MoE 专家权重 / 稀疏模型参数的按需加载与冷热分层。 3. 分析推理过程中的存储 I/O 瓶颈(NVMe 带宽、PCIe、块设备 I/O 路径),并将上层负载特征转化为对 SSD 固件的功能与性能需求。 4. 在端侧场景(NPU + 本地 UFS / NVMe SSD)进行方案原型验证与性能调优。 1. 2027 届硕士/博士,计算机、电子、微电子等相关专业。 2. 扎实的 C/C++ 功底,熟悉 Linux 开发环境与基本性能分析工具。 3. 深入理解 Transformer 架构及推理流程(Attention、KV Cache 原理、GQA/MQA 等)。 4. 有 vLLM、SGLang 或 llama.cpp 任一框架的部署 / 调优 / 源码阅读经验。 5. 了解模型量化基本原理。 【加分项(满足任意一条即可)】 1. 有 KV Cache Offload、MoE 专家权重卸载(Expert Offloading)、模型权重分层加载(mmap / streaming load)等相关项目或论文经验。 2. 了解 NVMe 协议、Linux 块设备 I/O 栈或 SPDK / io_uring 等存储优化技术。 3. 有 SSD 固件、FUSE 或存储中间件开发 / 实习经验。 4. 在 OSDI / ATC / FAST / ISCA / MICRO 等系统或体系结构会议发表论文,或对上述开源框架有 PR 记录。 熟悉端侧 NPU / 移动 SoC 的推理部署。

招聘要求:

1. 参与 LLM 推理与本地存储的软硬件协同优化,主要面向 vLLM / SGLang / llama.cpp 等主流推理框架。 2. 负责大模型推理过程中的数据分层调度,包括但不限于:KV Cache 在内存 ↔ SSD 之间的换入换出与预取策略;MoE 专家权重 / 稀疏模型参数的按需加载与冷热分层。 3. 分析推理过程中的存储 I/O 瓶颈(NVMe 带宽、PCIe、块设备 I/O 路径),并将上层负载特征转化为对 SSD 固件的功能与性能需求。 4. 在端侧场景(NPU + 本地 UFS / NVMe SSD)进行方案原型验证与性能调优。 1. 2027 届硕士/博士,计算机、电子、微电子等相关专业。 2. 扎实的 C/C++ 功底,熟悉 Linux 开发环境与基本性能分析工具。 3. 深入理解 Transformer 架构及推理流程(Attention、KV Cache 原理、GQA/MQA 等)。 4. 有 vLLM、SGLang 或 llama.cpp 任一框架的部署 / 调优 / 源码阅读经验。 5. 了解模型量化基本原理。 【加分项(满足任意一条即可)】 1. 有 KV Cache Offload、MoE 专家权重卸载(Expert Offloading)、模型权重分层加载(mmap / streaming load)等相关项目或论文经验。 2. 了解 NVMe 协议、Linux 块设备 I/O 栈或 SPDK / io_uring 等存储优化技术。 3. 有 SSD 固件、FUSE 或存储中间件开发 / 实习经验。 4. 在 OSDI / ATC / FAST / ISCA / MICRO 等系统或体系结构会议发表论文,或对上述开源框架有 PR 记录。 熟悉端侧 NPU / 移动 SoC 的推理部署。

公司介绍

深

深圳市江波龙电子股份有限公司

深圳市江波龙电子股份有限公司,成立于1999-04-27,位于广东,法定代表人:蔡华波,登记状态:存续,注册资本41914.5267万人民币,公司类型:民营/私企
公司信息:
公司名称:深圳市江波龙电子股份有限公司
公司类型:
公司性质:--
公司地点:
公司规模:
涉及领域:--
公司网址: