1、端到端完成LLM推理服务相关的开发、文档及维护工作，提升推理服务的推理性能，稳定性，可观测性，易用性等； 2、跟踪并了解业内最新的推理加速技术(LmCache、KV缓存优化、GPU/CPU推理调度算法等)，将新技术转化为产品竞争力，提升模型服务吞吐量，降低模型推理延迟,持续提升推理效率； 3、针对公司内特定GPU服务器的极限推理性能压榨,软硬结合实现推理加速。 1、大学本科及以上学历，并取得相应学位，计算机相关专业，具备扎实的GO/Python编程能力； 2、具备对应岗位方向的知识储备，熟悉业界及开源常见解决方案者优先（之一)：GPU、K8S、MLOps、LLM、主流推理引擎、主流推理框架(VLLM、SGLang、MindIE)； 3、有LLM（大语言模型）推理系统开发或优化经验者优先。