AI软件系统架构师当面告知
北京清微智能科技有限公司
2027-02-08 18:45:55
其他社招
岗位详情
地区:
深圳市
专业要求:
人工智能计算机科学与技术软件工程
岗位职责:
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线,明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件,分析Prefill、Decode和视觉语音路径,制定性能、内存及带宽预算与优化计划。 3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制,明确Runtime、驱动和NPU固件的接口及资源归属。 4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较,明确适用条件、资源约束、兼容目标及验证方法。 5. 组织关键设计与代码评审,参与核心代码和性能原型,推动最小推理链路及端到端集成;协调芯片、硬件、外部BSP和测试团队定位跨层问题。 6. 将架构工作分解为迭代任务与接口交付,建立需求、设计和验证追溯,维护技术文档,指导后续同架构SoC的资源与指令差异适配。
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线,明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件,分析Prefill、Decode和视觉语音路径,制定性能、内存及带宽预算与优化计划。 3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制,明确Runtime、驱动和NPU固件的接口及资源归属。 4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较,明确适用条件、资源约束、兼容目标及验证方法。 5. 组织关键设计与代码评审,参与核心代码和性能原型,推动最小推理链路及端到端集成;协调芯片、硬件、外部BSP和测试团队定位跨层问题。 6. 将架构工作分解为迭代任务与接口交付,建立需求、设计和验证追溯,维护技术文档,指导后续同架构SoC的资源与指令差异适配。 加分项 1. 有NPU/GPU/DSP从仿真、FPGA到芯片联调和软件交付经历。 2. 有llama.cpp/ggml、LLVM、推理框架或加速器SDK的核心开发及开源贡献。 3. 有端侧推测解码、低比特计算、编译与Runtime协同优化或多代芯片适配经历。
招聘要求:
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线,明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件,分析Prefill、Decode和视觉语音路径,制定性能、内存及带宽预算与优化计划。 3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制,明确Runtime、驱动和NPU固件的接口及资源归属。 4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较,明确适用条件、资源约束、兼容目标及验证方法。 5. 组织关键设计与代码评审,参与核心代码和性能原型,推动最小推理链路及端到端集成;协调芯片、硬件、外部BSP和测试团队定位跨层问题。 6. 将架构工作分解为迭代任务与接口交付,建立需求、设计和验证追溯,维护技术文档,指导后续同架构SoC的资源与指令差异适配。
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线,明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件,分析Prefill、Decode和视觉语音路径,制定性能、内存及带宽预算与优化计划。 3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制,明确Runtime、驱动和NPU固件的接口及资源归属。 4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较,明确适用条件、资源约束、兼容目标及验证方法。 5. 组织关键设计与代码评审,参与核心代码和性能原型,推动最小推理链路及端到端集成;协调芯片、硬件、外部BSP和测试团队定位跨层问题。 6. 将架构工作分解为迭代任务与接口交付,建立需求、设计和验证追溯,维护技术文档,指导后续同架构SoC的资源与指令差异适配。 加分项 1. 有NPU/GPU/DSP从仿真、FPGA到芯片联调和软件交付经历。 2. 有llama.cpp/ggml、LLVM、推理框架或加速器SDK的核心开发及开源贡献。 3. 有端侧推测解码、低比特计算、编译与Runtime协同优化或多代芯片适配经历。
公司介绍
北
北京清微智能科技有限公司
北京清微智能科技有限公司,成立于2018-07-26,位于北京,法定代表人:王博,登记状态:存续,注册资本4249.014814万人民币,公司类型:民营/私企
公司信息:公司名称:北京清微智能科技有限公司公司类型:公司性质:--公司地点:公司规模:--涉及领域:--公司网址: