AIGC推理解决方案工程师当面告知
中科寒武纪科技股份有限公司
2027-01-03 22:16:57
其他社招
岗位详情
地区：
北京市
专业要求：
电子信息工程人工智能自动化计算机科学与技术软件工程
岗位职责：
1、参与分布式推理系统建设，提供行业领先的LLM/多模态模型解决方案；
2、针对大语言模型（LLM）、视觉生成（如Diffusion Models）等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量；
3、深度优化推理框架，提升框架在异构硬件上的扩展性与易用性；
4、开发自动化性能分析工具，实现推理瓶颈的快速定位与优化建议生成。
招聘要求：
1、计算机、电子工程、自动化、数学等相关专业优先；
2、精通Python/C++，具备CUDA/BANGC等异构编程经验；
3、对硬件算力与模型效率的平衡有深刻认知，能设计兼顾性能与成本的优化方案；
4、深入理解LLM或者视觉生成模型原理，具备以下至少一个领域的实战经验；
a)大模型推理框架：vLLM/SGLang/FasterTransformer/TensorRT-LLM；
b)视觉生成系统：Diffusers/ComfyUI/xDiT；
5、深入理解量化、kvcache、多机多卡并行等加速技术。
加分项：
1、有GPU/加速卡调优实践经验；
2、有开源仓库的贡献经验；
3、参与过LLM或者视觉生成端到端推理优化项目，并实际落地；
4、有集群部署经验；
5、了解torch.compile/CUDAGraph/Triton。
公司介绍
中科寒武纪科技股份有限公司
中科寒武纪科技股份有限公司，成立于2016-03-15，位于北京，法定代表人：陈天石，登记状态：存续，注册资本41835.0224万人民币，公司类型：民营/私企
公司信息:
公司名称:中科寒武纪科技股份有限公司
公司类型:
公司性质:--
公司地点:
公司规模:
涉及领域:--
公司网址: