大模型训练框架研发工程师-27届当面告知
中科寒武纪科技股份有限公司
2027-02-07 21:29:12
校招博士27届硕士
岗位详情
地区：
北京市
专业要求：
数学与应用数学物理学微电子科学与工程自动化
岗位职责：
参与AI大模型训练框架的研发适配工作，分析优化性能热点，分析内存瓶颈，优化大模型训练框架；
调研分析大模型最新技术和性能优化方案，跟进社区演进方向，持续优化大模型训练瓶颈问题；
性能分析的理论计算及预估，对计算、通信时间和内存占比能够进行合理性分析，并提出优化方案；
充分理解分布式训练全过程，优化预训练及后训练阶段性能，不断提高大规模场景下的训练稳定性。
招聘要求：
硕士及以上学历，微电子、计算机、通信、自动化、应用数学、物理等相关专业；
熟悉pytorch的使用，熟悉大模型相关的训练方法和技巧，如moe，长序列，多模态等；
熟悉Linux/Unix系统环境，能够熟练使用C++/Python；
熟悉计算机体系结构，熟悉多层内存结构，熟悉操作系统概念；
良好的沟通能力和团队协作能力，良好的学习能力和自驱能力。
拥有以下经验者优先：
熟悉Megatron-LM/FSDP/DeepSpeed/Transformers/Verl等任意一种框架；
有大模型训练开发经验或者框架开发优化经验；
熟悉Nsight System，DLProf等性能分析工具使用经验。
注：本岗位设置笔试环节，请留意邮件及短信通知。
公司介绍
中科寒武纪科技股份有限公司
中科寒武纪科技股份有限公司，成立于2016-03-15，位于北京，法定代表人：陈天石，登记状态：存续，注册资本41835.0224万人民币，公司类型：民营/私企
公司信息:
公司名称:中科寒武纪科技股份有限公司
公司类型:
公司性质:--
公司地点:
公司规模:
涉及领域:--
公司网址: