AIGC推理框架研发工程师-27届当面告知
中科寒武纪科技股份有限公司
2027-02-07 21:29:12
其他校招27届
岗位详情
地区:
北京市
专业要求:
物理学电子信息工程自动化
岗位职责:
参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案;
针对大语言模型(LLM)、视觉生成(如Diffusion Models)等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量;
深度优化推理框架,提升框架在异构硬件上的扩展性与易用性;
开发自动化性能分析工具,实现推理瓶颈的快速定位与优化建议生成。
招聘要求:
计算机、电子工程、自动化、数学、物理等相关专业优先;
有PyTorch/C++/Python编程经验;
有AI模型的训练/部署经验;
了解LLM或者视觉生成模型原理;
了解量化、kvcache、多机多卡并行等加速技术。
加分项:
1具备CUDA/BANGC等异构编程经验,有GPU/加速卡调优实践经验;
有开源仓库的贡献经验;
了解torch.compile/CUDAGraph/Triton;
具备以下任意领域的实战经验;
大模型推理框架:vLLM/SGLang/FasterTransformer/TensorRT-LLM;
视觉生成系统:Diffusers/ComfyUI/xDiT;
强化学习:verl等。
注:本岗位设置笔试环节,请留意邮件及短信通知。
公司介绍

中科寒武纪科技股份有限公司
中科寒武纪科技股份有限公司,成立于2016-03-15,位于北京,法定代表人:陈天石,登记状态:存续,注册资本41835.0224万人民币,公司类型:民营/私企
公司信息:
公司名称:中科寒武纪科技股份有限公司
公司类型:
公司性质:--
公司地点:
公司规模:
涉及领域:--
公司网址: