大模型推理优化工程师25000-35000元/月

北京华品博睿网络技术有限公司
2027-10-31 00:00:00
校招27届本科

岗位详情

地区:

北京

专业要求:

人工智能计算机科学与技术软件工程

岗位职责:

参与公司大模型推理Infra建设,包括 大模型推理引擎、推理框架等的研发与优化,服务招聘、代码研发等核心业务场景。 跟踪大模型及推理技术发展,参与 SGLang、vLLM、Dynamo、ollama 等框架的技术分析与工程实践,围绕 算子优化、Prefill / Decode、KV Cache、Speculative Decoding、量化、调度管理 等方向开展工程优化和落地。 参与大模型推理性能分析,通过 Profiling、Benchmark、性能建模 等手段定位模型、算子、Kernel、显存、通信、Runtime 等环节的性能瓶颈,并通过算子开发、系统/框架优化等方式解决问题。 参与不同模型架构及硬件平台上的推理适配与性能优化,探索 GPU、国产化芯片 等异构计算平台上的大模型推理优化技术。

招聘要求:

计算机、软件工程、人工智能等相关专业,具备扎实的 计算机体系结构、操作系统、数据结构与算法 基础;理解 并行与分布式系统、GPU 架构、SIMD / SIMT、Memory Hierarchy等基本概念。 掌握深度学习基本原理,熟悉 Transformer、Attention、MoE 等主流大模型结构,对大模型推理过程和基本性能瓶颈有一定理解。了解常见大模型并行策略 TP / EP / CP / DP 等的基本原理,并可结合模型特点、硬件信息等进行宏观性能分析。 具备良好的 C++ / Python 编程能力,有 CUDA / Triton 或其他算子开发、GPU 编程相关实践经验。 具备一定的模型性能 Profiling、分析和优化 能力,能够从计算、显存/内存带宽、Kernel 执行等角度分析程序性能瓶颈。 具备较强的学习能力、问题分析能力和工程实践能力,对 大模型、推理系统、GPU 性能优化 等方向有浓厚兴趣。

公司介绍

北京华品博睿网络技术有限公司

北京华品博睿网络技术有限公司

北京华品博睿网络技术有限公司,成立于2013-12-25,位于北京,法定代表人:张雪,登记状态:存续,注册资本1000万人民币,公司类型:民营/私企
公司信息:
公司名称:北京华品博睿网络技术有限公司
公司类型:互联网/电子商务
公司性质:1000-4999人
公司地点:
公司规模:--
涉及领域:--
公司网址: