【蚂蚁星】大模型推理和性能优化-平台技术-27届当面告知
蚂蚁科技集团股份有限公司
2027-01-03 00:00:00
27届实习本科
岗位详情
地区：
杭州市
专业要求：
专业不限
岗位职责：
1. 投身大模型推理引擎的研发和优化工作，包括但不限于万亿级别的自回归模型、omni / diffusion多模态模型等；
2. 在推理引擎调度、算子研发、投机推理、全模态处理等方面具备科研/工作经验，致力于实现符合蚂蚁业务场景的推理技术；
3. 参与打造分布式的推理系统，结合计算卡、通信、存储等技术实现成本和体验最优的推理服务。
招聘要求：
1. 基于低算力N卡（H20等）及国产硬件（PPUe等）的推理算子和引擎开发，挖掘硬件潜力，实现低延迟、高吞吐的推理系统；
2. 面对T级别的大尺寸模型和Agent工作负载，实现分布式推理系统的研发和打磨；
3. 研究前沿投机采样算法、megakernel、低bit量化等技术，支撑「极低延迟」的推理场景。
公司介绍
蚂蚁科技集团股份有限公司
蚂蚁科技集团股份有限公司，成立于2000-10-19，位于浙江，法定代表人：韩歆毅，登记状态：存续，注册资本3500000万人民币，公司类型：民营/私企
蚂蚁集团是中国较大的移动支付平台支付宝的母公司，也是全球金融科技开放平台，致力于以科技推动包括金融服务业在内的全球现代服务业的数字化升级，携手合作伙伴为消费者和小微企业提供普惠、绿色、可持续的服务，为世界带来微小而美好的改变。