日常实习生-Agent安全评测与审计当面告知

阿里巴巴(中国)有限公司
2027-01-28 11:59:40
28届29届实习本科硕士

岗位详情

地区:

杭州市

专业要求:

人工智能计算机科学与技术信息安全网络空间安全

岗位职责:

1. 安全评测执行:深入了解Agent应用,制定评测方案,执行安全评测,覆盖直接\间接注入、工具调用越权、敏感数据泄露等风险,产出评测报告包括安全水位、风险清单等。 2. 离线安全审计:对Agent执行轨迹进行离线审计,识别越权调用、异常数据流转、疑似注入攻击、记忆污染、skill投毒等风险行为,定期产出风险审计报告。 3. 评测能力建设:结合业务特性及行业发展,参与风险分类分级,扩充评测数据集,维护攻击方法库,编写自动化评测脚本,优化评测工具,沉淀可复用的评测资产。

招聘要求:

1. 学历与经验:本科及以上学历在读(大三、大四或研一、研二优先),网络安全、应用安全、AI安全、计算机科学、人工智能等相关专业。 2. 技术能力: 对Agent工作流(感知-规划-行动-记忆)有基本认知,了解常见的AI安全风险(如注入攻击、越权、幻觉等)。 具备基本的数据处理能力,能熟练使用 SQL 或 Python 进行日志查询、数据清洗与分析。 具备良好的英文文献阅读能力,能快速跟进AI安全领域的最新风险动态。 3. 学习能力:对AI安全方向有学习热情,能在指导下快速掌握风险框架、设计评测方案、构建评测集、配合团队完成评测和审计工作。 4. 综合素质:工作细致、责任心强,对数据安全和保密规范有高度敬畏心。具备扎实的数据分析能力,擅长从数据中提炼问题及解决方案,具备出色的团队协作能力。 5. 实习时长:每周至少4天,持续3个月以上 加分项 1. 有CTF比赛经历、网络安全相关课程项目或学术研究成果。 2. 熟悉LangChain、LlamaIndex等主流Agent开发框架原理。 3. 有使用Promptfoo、Garak等自动化评测工具的经验。 4. 对AI红队测试(Red Teaming)有浓厚兴趣或实践经验。

公司介绍

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企

公司信息:


公司名称:阿里巴巴(中国)有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: