你会做什么 1.负责大语言模型推理优化的核心工作，包括投机解码、KV Cache优化、量化（NVFP4/FP8）等方面； 2.基于SGLang、vLLM、TRT-LLM等主流推理框架进行深度定制和性能调优； 3.结合实际客户场景，输出可落地的推理加速方案，并参与客户技术交付； 4.跟踪推理优化前沿进展，推动技术成果转化为开源贡献或技术白皮书。 我们期望你 1.本科以上学历，5年大模型推理或系统优化相关经验； 2.深度理解Transformer推理机制，熟悉attention优化、批处理调度、内存管理等核心问题； 3.有SGLang、vLLM、TRT-LLM至少一个框架的实战经验； 4.有NVFP4、FP8、AWQ、GPTQ等量化方案落地经验者优先； 5.有投机解码（Speculative Decoding）相关研究或工程经验者优先； 6.有顶会论文或高影响力开源贡献者优先。 加分项 1.参与过EAGLE、EAGLE3、SageAttention等开源项目 2.有多LoRA、ComfyUI推理工程化经验 3.熟悉NCCL、RoCE等分布式推理通信机制