【Ace顶尖实习生】向量检索在大模型场景的应用和KVCache优化研究当面告知
小红书科技有限公司
招满即止
社招(不限)实习本科
岗位详情
地区:
全国
专业要求:
智能视觉工程空间信息与数字技术智能影像工程
岗位职责:
本课题研究如何优化向量检索技术以增强AR模型和扩散语言模型(Diffusion LLM)的推理能力。主要方向包括:
1、充分利用高性能网络和分布式存储设施,实现千亿级多模态数据的高效检索,结合PD分离、块扩散、并行解码、分层缓存等技术探索检索结果与大模型上下文的最优融合方法;
2、研究基于向量检索优化大模型推理过程中的KV Cache机制,并打造业界领先的工业级大规模分布式多级KVCache推理架构,为实现小红书AI业务场景下的大规模、低成本、高性能推理提供关键技术支持。
任职资格:
1、不限年级,本科及以上在读,计算机/人工智能/软件工程等相关专业优先;
2、编程基本功扎实,具有扎实的数据结构和算法功底,熟悉常用的设计模式、软件架构模式、计算网络、操作系统,擅长Java/C++至少一门语言;
3、 在Github上拥有有影响力的开源项目,或者是行业著名开源项目的核心贡献者优先,参加过ACM竞赛者优先,对推荐前沿技术有了解的优先;
4、在国际会议或期刊发表论文者(包括但不限于 ACL、EMNLP、NeurIPS、ICML、ICLR等)优先;
5、良好的沟通协作能力,责任心强,积极主动,能和团队一起探索新技术,推进技术进步。
招聘要求:
工作职责:
本课题研究如何优化向量检索技术以增强AR模型和扩散语言模型(Diffusion LLM)的推理能力。主要方向包括:
1、充分利用高性能网络和分布式存储设施,实现千亿级多模态数据的高效检索,结合PD分离、块扩散、并行解码、分层缓存等技术探索检索结果与大模型上下文的最优融合方法;
2、研究基于向量检索优化大模型推理过程中的KV Cache机制,并打造业界领先的工业级大规模分布式多级KVCache推理架构,为实现小红书AI业务场景下的大规模、低成本、高性能推理提供关键技术支持。
任职资格:
1、不限年级,本科及以上在读,计算机/人工智能/软件工程等相关专业优先;
2、编程基本功扎实,具有扎实的数据结构和算法功底,熟悉常用的设计模式、软件架构模式、计算网络、操作系统,擅长Java/C++至少一门语言;
3、 在Github上拥有有影响力的开源项目,或者是行业著名开源项目的核心贡献者优先,参加过ACM竞赛者优先,对推荐前沿技术有了解的优先;
4、在国际会议或期刊发表论文者(包括但不限于 ACL、EMNLP、NeurIPS、ICML、ICLR等)优先;
5、良好的沟通协作能力,责任心强,积极主动,能和团队一起探索新技术,推进技术进步。
公司介绍

小红书科技有限公司
小红书科技有限公司,成立于2018-10-10,位于上海,法定代表人:任爽,登记状态:存续,注册资本10000万美元,公司类型:港澳台资
公司信息:
公司名称:小红书科技有限公司
公司类型:互联网/电子商务
公司性质:1000-4999人
公司地点:
公司规模:--
涉及领域:--
公司网址: