研究型实习生-可信AI安全当面告知
蚂蚁科技集团股份有限公司
2026-12-12 00:00:00
27届28届实习本科
岗位详情
地区：
北京
·
杭州市
专业要求：
电子信息工程计算机科学与技术
岗位职责：
研究领域：
人工智能安全
项目简介：
随着大模型及Agent技术的持续演进，其在内容理解、决策推理、任务执行等方面的能力显著提升。但与此同时，模型与Agent的安全性、可控性和可信度问题 也逐渐成为制约其大规模应用的关键因素。当前的防护措施主要集中在后验过滤或人工规则层面，难以适应智能体的自主性需求。本项目聚焦于轻量化、可验证的AI安全对齐机制研究，从模型行为约束、风险检测与安全提示三个维度，探索小规模可验证的技术路线，为后续大模型安全体系奠定基础。
招聘要求：
职位描述：
1、大模型对抗攻击：研究大模型（llm，vlm，agent）存在的安全性（安全与幻觉）问题，研究大模型对抗攻击/越狱算法和生成式数据增强。
2、大模型对抗防御：研究大模型（llm，vlm，agent）安全防御算法机制，对大模型输入输出做识别、改写、抑制。
3、大模型训练：内生安全对齐，使用continue pretrain、MoE、RAG、AutoPrompt等方法解决大模型安全相关问题。
职位要求：
1、具有多模内容理解、大模型、AI安全相关工作经验优先；
2、计算机、电子等相关专业背景；具备扎实的机器学习基础和较强的学习能力；
3、熟悉PyTorch、Tensorflow相关深度学习算法框架，有相应的模型设计和实现经验；
4、在机器学习/CV/NLP/人工智能相关领域有顶会论文或者有算法竞赛top经验者优先。
5、有一定工程基础或者网络安全经验者有加分。
6、至少6个月的全职工作。
公司介绍
蚂蚁科技集团股份有限公司
蚂蚁科技集团股份有限公司，成立于2000-10-19，位于浙江，法定代表人：韩歆毅，登记状态：存续，注册资本3500000万人民币，公司类型：民营/私企
蚂蚁集团是中国较大的移动支付平台支付宝的母公司，也是全球金融科技开放平台，致力于以科技推动包括金融服务业在内的全球现代服务业的数字化升级，携手合作伙伴为消费者和小微企业提供普惠、绿色、可持续的服务，为世界带来微小而美好的改变。