1.精通Transformer架构及大模型解码原理，了解主流推理加速算法，具备大模型单机/分布式推理方案设计与落地能力； 2.推熟练使用vLLM、TensorRT-LLM、TextGenerationInference等主流推理框架，具备框架二次开发、推理服务封装、批量推理、流式推理业务化改造经验，能搭建高可用、高并发大模型推理服务链路； 3.掌握大模型推理性能指标（吞吐、TTFT、TPOT、显存占用、首包时延）评测体系，可完成开源模型国产化移植后的精度对齐、量化压缩（INT8/INT4/GPTQ/AWQ）落地，兼顾推理速度与模型效果。