算力优化与模型量化工程师当面告知

上海燧弘华创科技有限公司
2027-02-08 19:10:48
校招博士27届硕士

岗位详情

地区:

无锡市

专业要求:

电子信息工程计算机类数学

岗位职责:

1、 参与大语言模型(LLM)、多模态模型(VLM)量化压缩研发落地,协助改进 PTQ、QAT、INT4/INT8/FP8 混合精度量化算法,兼顾模型精度与推理效率; 2、参与 GPU/NPU 核心算子(Kernel)设计与性能优化,通过算子融合、内存访问优化、向量化执行等方式,提升计算任务吞吐量; 3、协助完成 CUDA 计算逻辑向昇腾等国产算力芯片迁移,基于达芬奇架构参与算子重构,排查底层兼容性与性能损耗问题; 4、参与大模型编译优化,基于 TVM/MLIR/Triton 开展图优化与定制算子开发;协助迭代量化工具链,实现模型校准、转换、部署自动化; 5、协助定位 AI 程序性能瓶颈,使用 Nsight Compute、PyTorch Profiler 等工具,参与 GPU/NPU 异构硬件的性能调优与资源调度。

招聘要求:

1、硕士及以上,计算机、电子工程、数学等相关专业; 2、了解 Transformer 架构;掌握量化基础原理,熟悉 GPTQ、AWQ 等主流量化算法;有模型量化、推理加速相关科研 / 项目 / 竞赛经历优先; 3、核心能力: - 掌握 C/C++、Python 编程基础;了解 CUDA 编程,有 Triton 或 Ascend C 算子开发实践优先; - 熟悉计算机体系结构,理解 TVM、MLIR、TensorRT 等深度学习编译器底层优化思路; - 具备性能分析基础,能够使用性能剖析工具定位模型推理瓶颈; - 良好工程能力,可协同团队完成量化算法、算子在异构硬件上的验证与调优。 加分项: 1、有 PTQ/QAT/FP8 量化算法复现或落地项目经验; 2、有昇腾 NPU 算子开发、模型迁移适配项目经历; 3、基于 Triton/CUDA 实现过高性能算子; 4、接触过 TVM/MLIR 模型编译、图优化开发; 5、有端侧 LLM 量化落地相关科研或开源项目。

公司介绍

上

上海燧弘华创科技有限公司

上海燧弘华创科技有限公司,成立于2023-12-11,位于上海,法定代表人:李强,登记状态:存续,注册资本10000万人民币,公司类型:民营/私企