【Ace顶尖实习生】面向长序列推理的KVCache优化技术研究当面告知
行吟信息科技(上海)有限公司
2027-10-10 00:00:00
27届28届实习本科硕士
岗位详情
地区:
杭州市
专业要求:
人工智能软件工程
岗位职责:
本课题旨在通过优化Transformer模型中的KV缓存机制,解决处理长序列数据时遇到的计算和内存挑战,目标是减少资源消耗、降低延迟并提高效率。
研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域,为处理超长序列数据提供更加高效和可扩展的解决方案。
任职资格:
1、不限年级,本科及以上在读,人工智能/计算机/软件工程等相关专业优先;
2、优秀的代码能力,熟练掌握至少一门编程语言,包括但不限于Python/C/C++/Java/Go等其中一门开发语言;
3、有分布式系统/数据库系统/云原生等相关技术的研究和开发经验优先;
4、在顶级学术会议或期刊发表论文或有深入研究经历者优先;
5、良好的沟通协作能力,责任心强,积极主动,能和团队一起探索新技术,推进技术进步。
招聘要求:
工作职责:
本课题旨在通过优化Transformer模型中的KV缓存机制,解决处理长序列数据时遇到的计算和内存挑战,目标是减少资源消耗、降低延迟并提高效率。
研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域,为处理超长序列数据提供更加高效和可扩展的解决方案。
任职资格:
1、不限年级,本科及以上在读,人工智能/计算机/软件工程等相关专业优先;
2、优秀的代码能力,熟练掌握至少一门编程语言,包括但不限于Python/C/C++/Java/Go等其中一门开发语言;
3、有分布式系统/数据库系统/云原生等相关技术的研究和开发经验优先;
4、在顶级学术会议或期刊发表论文或有深入研究经历者优先;
5、良好的沟通协作能力,责任心强,积极主动,能和团队一起探索新技术,推进技术进步。
公司介绍
行
行吟信息科技(上海)有限公司
行吟信息科技(上海)有限公司,成立于2013-08-02,位于上海,法定代表人:任爽,登记状态:存续,注册资本100万人民币,公司类型:民营/私企
公司信息:公司名称:行吟信息科技(上海)有限公司公司类型:互联网/电子商务公司性质:1000-4999人公司地点:公司规模:--涉及领域:--公司网址: