大模型优化工程师当面告知
中科寒武纪科技股份有限公司
2027-01-03 22:17:04
其他社招
岗位详情
地区：
北京市
·
上海市
专业要求：
人工智能自动化计算机科学与技术软件工程理学
岗位职责：
工作内容：
1、针对主流大语言模型如Qwen等，在寒武纪平台开展端到端的推理性能优化和精度分析，提升模型推理效率及精度；
2、参与分布式推理框架设计开发，提供行业领先的LLM/多模态模型解决方案；
3、开发和维护大语言模型（LLM）量化工具等；
任职要求
1、计算机、电子工程、自动化、数学等相关专业优先；
2、精通Python/C++；
3、熟悉vLLM,SGLang等开源框架；
4、深入理解量化、KV Cache、多机多卡并行等加速技术。
加分项：
1、有大模型推理/加速相关开源仓库的贡献经验者优先；
2、参与过LLM或者视觉生成端到端推理优化项目，并实际落地；
3、具备CUDA或者其他AI加速卡的算子开发经验
4、熟悉torch.compile/CUDAGraph/Triton；
招聘要求：
1、计算机、电子工程、自动化、数学等相关专业优先；
2、精通Python/C++；
3、熟悉vLLM,SGLang等开源框架；
4、深入理解量化、KV Cache、多机多卡并行等加速技术。
加分项：
1、有大模型推理/加速相关开源仓库的贡献经验者优先；
2、参与过LLM或者视觉生成端到端推理优化项目，并实际落地；
3、具备CUDA或者其他AI加速卡的算子开发经验
4、熟悉torch.compile/CUDAGraph/Triton；
公司介绍
中科寒武纪科技股份有限公司
中科寒武纪科技股份有限公司，成立于2016-03-15，位于北京，法定代表人：陈天石，登记状态：存续，注册资本41835.0224万人民币，公司类型：民营/私企
公司信息:
公司名称:中科寒武纪科技股份有限公司
公司类型:
公司性质:--
公司地点:
公司规模:
涉及领域:--
公司网址: