【Ace顶尖实习生】面向长序列推理的KVCache优化技术研究当面告知

行吟信息科技(上海)有限公司
2027-10-10 00:00:00
27届28届实习本科硕士

岗位详情

地区:

上海

专业要求:

人工智能软件工程

岗位职责:

本课题旨在通过优化Transformer模型中的KV缓存机制,解决处理长序列数据时遇到的计算和内存挑战,目标是减少资源消耗、降低延迟并提高效率。 研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域,为处理超长序列数据提供更加高效和可扩展的解决方案。 任职资格: 1、不限年级,本科及以上在读,人工智能/计算机/软件工程等相关专业优先; 2、优秀的代码能力,熟练掌握至少一门编程语言,包括但不限于Python/C/C++/Java/Go等其中一门开发语言; 3、有分布式系统/数据库系统/云原生等相关技术的研究和开发经验优先; 4、在顶级学术会议或期刊发表论文或有深入研究经历者优先; 5、良好的沟通协作能力,责任心强,积极主动,能和团队一起探索新技术,推进技术进步。

招聘要求:

工作职责: 本课题旨在通过优化Transformer模型中的KV缓存机制,解决处理长序列数据时遇到的计算和内存挑战,目标是减少资源消耗、降低延迟并提高效率。 研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域,为处理超长序列数据提供更加高效和可扩展的解决方案。 任职资格: 1、不限年级,本科及以上在读,人工智能/计算机/软件工程等相关专业优先; 2、优秀的代码能力,熟练掌握至少一门编程语言,包括但不限于Python/C/C++/Java/Go等其中一门开发语言; 3、有分布式系统/数据库系统/云原生等相关技术的研究和开发经验优先; 4、在顶级学术会议或期刊发表论文或有深入研究经历者优先; 5、良好的沟通协作能力,责任心强,积极主动,能和团队一起探索新技术,推进技术进步。

公司介绍

行

行吟信息科技(上海)有限公司

行吟信息科技(上海)有限公司,成立于2013-08-02,位于上海,法定代表人:任爽,登记状态:存续,注册资本100万人民币,公司类型:民营/私企
公司信息:
公司名称:行吟信息科技(上海)有限公司
公司类型:互联网/电子商务
公司性质:1000-4999人
公司地点:
公司规模:--
涉及领域:--
公司网址: