1、负责大模型/深度学习模型在AI硬件平台上的推理部署、性能调优和交付落地，提升吞吐、降低延迟和资源成本。 2、负责 vLLM、TGI、TensorRT-LLM、MindIE 等推理框架的适配、优化和问题定位。 3、设计并落地量化、混合精度、蒸馏、剪枝、算子融合、KV Cache 优化等推理加速方案。 4、定位并解决推理过程中的性能瓶颈、精度下降、显存不足、算子不支持、服务稳定性等复杂问题。 5、沉淀推理调优方法论、Benchmark 规范、最佳实践和交付文档，支持重点客户项目落地。 1、计算机科学相关领域的本科或以上学历，熟悉计算机语言，有扎实的代码开发经验； 2、熟悉 Transformer、Attention、MoE、Prefill/Decode、KV Cache、Batching 等大模型推理机制； 3、熟练掌握 vLLM、TGI、TensorRT-LLM、MindIE 等一种或多种推理框架； 4、熟悉 INT8/INT4 量化、FP16/BF16 混合精度、AWQ/GPTQ/SmoothQuant、剪枝、蒸馏、图优化等技术； 4、具备 GPU/NPU/AI加速卡性能分析能力，能使用 Profiling 工具进行端到端性能瓶颈定位相关经验优先。