模型量化与部署工具开发工程师当面告知
北京清微智能科技有限公司
2027-02-08 18:45:56
社招本科硕士
岗位详情
地区:
深圳市
专业要求:
计算机技术
岗位职责:
1. 开发模型转换、权重编码及自定义部署产物导出工具,管理模型配置、量化参数、目标信息和版本元数据。 2. 实现或适配PTQ、校准、低比特权重量化及混合精度配置,分析模型质量与资源成本,形成可复现的量化方案。 3. 实现离线Tensor布局重排及参数映射,与框架、算子团队核对文件布局、加载布局和执行数值解释。 4. 开发中间Tensor采集导出、独立参考比较、误差统计及单算子与模型精度定位工具,生成精度分析报告。 5. 维护任务质量评测和数值回归,固定数据、预处理、采样和版本条件,区分数值偏差与任务质量退化。 6. 消费Runtime及框架提供的采集记录,开发性能统计和报告,明确时延、内存、搬运及CPU指标的计量边界和数据完整性。 7. 维护命令行、参数检查、错误诊断、部署示例和用户文档,支持模型导入、部署及问题复现。
1. 计算机、电子、数学或相关专业本科及以上学历,3年及以上模型量化、转换、精度调试或推理部署工具研发经验。 2. 熟练掌握Python、PyTorch和NumPy,具备C/C++基础及工程化工具开发能力,能够理解模型执行与权重数据。 3. 理解PTQ、校准、scale/zero point、分组粒度和误差传播,对一种量化方法有实现、适配或系统性评估经历。 4. 理解Tensor形状、数据类型、布局和元信息,能够处理格式转换、低比特编码及量化参数对应关系。 5. 具备中间结果对比、模型质量评测或数值偏差定位经验,能够建立独立参考与可重复的测试条件。 6. 能够分析性能采集记录、构建统计及报告工具,熟悉自动化测试、依赖与版本管理和命令行文档。 加分项 1. 有AWQ、GPTQ、GGUF或自定义低比特格式及布局开发经验,能够区分量化算法与文件格式。 2. 有文本、视觉语言或语音模型的量化、任务质量和部署验证经验。 3. 有模型调试器、Profiler报告、跨后端Tensor比较工具或端侧SDK工具开发经验。
招聘要求:
1. 开发模型转换、权重编码及自定义部署产物导出工具,管理模型配置、量化参数、目标信息和版本元数据。 2. 实现或适配PTQ、校准、低比特权重量化及混合精度配置,分析模型质量与资源成本,形成可复现的量化方案。 3. 实现离线Tensor布局重排及参数映射,与框架、算子团队核对文件布局、加载布局和执行数值解释。 4. 开发中间Tensor采集导出、独立参考比较、误差统计及单算子与模型精度定位工具,生成精度分析报告。 5. 维护任务质量评测和数值回归,固定数据、预处理、采样和版本条件,区分数值偏差与任务质量退化。 6. 消费Runtime及框架提供的采集记录,开发性能统计和报告,明确时延、内存、搬运及CPU指标的计量边界和数据完整性。 7. 维护命令行、参数检查、错误诊断、部署示例和用户文档,支持模型导入、部署及问题复现。
1. 计算机、电子、数学或相关专业本科及以上学历,3年及以上模型量化、转换、精度调试或推理部署工具研发经验。 2. 熟练掌握Python、PyTorch和NumPy,具备C/C++基础及工程化工具开发能力,能够理解模型执行与权重数据。 3. 理解PTQ、校准、scale/zero point、分组粒度和误差传播,对一种量化方法有实现、适配或系统性评估经历。 4. 理解Tensor形状、数据类型、布局和元信息,能够处理格式转换、低比特编码及量化参数对应关系。 5. 具备中间结果对比、模型质量评测或数值偏差定位经验,能够建立独立参考与可重复的测试条件。 6. 能够分析性能采集记录、构建统计及报告工具,熟悉自动化测试、依赖与版本管理和命令行文档。 加分项 1. 有AWQ、GPTQ、GGUF或自定义低比特格式及布局开发经验,能够区分量化算法与文件格式。 2. 有文本、视觉语言或语音模型的量化、任务质量和部署验证经验。 3. 有模型调试器、Profiler报告、跨后端Tensor比较工具或端侧SDK工具开发经验。
公司介绍
北
北京清微智能科技有限公司
北京清微智能科技有限公司,成立于2018-07-26,位于北京,法定代表人:王博,登记状态:存续,注册资本4249.014814万人民币,公司类型:民营/私企
公司信息:公司名称:北京清微智能科技有限公司公司类型:公司性质:--公司地点:公司规模:--涉及领域:--公司网址: