智能体威胁识别与对抗防御研究-阿里星当面告知
阿里巴巴(中国)有限公司
2027-02-07 21:43:39
校招博士27届本科硕士
岗位详情
地区:
杭州市
专业要求:
人工智能计算机科学与技术信息安全
岗位职责:
1、负责集团端管云全链路场景下的智能体安全能力建设,针对不同意图与形态的智能体(GUI Agent、API Agent 等)构建高效的威胁识别、行为分析与对抗防御体系;
2、探索面向 VLA 的对抗样本生成与防御技术,包括跨模型/跨任务可迁移的通用对抗攻击、感知-决策链路的鲁棒性评估及防御机制设计;
3、探索智能体幻觉问题的检测与缓解,覆盖感知幻觉(界面元素误识别、属性/关系错误)与推理幻觉(指令偏离、逻辑谬误、事实捏造),构建幻觉诊断基准并设计缓解机制;
4、参与基础安全域模型的安全能力建设与迭代,探索解决安全域样本标注昂贵稀缺、可读性差等核心瓶颈问题。
招聘要求:
1、对大模型相关技术有项目实操及研究经历,有智能体安全、大模型安全、VLA 对抗样本相关经历优先;
2、对安全攻防领域有较深入的理解,对以下至少一个领域有相关经历优先:移动安全、Web 安全、协议安全、IoT 安全;
3、具备优秀的研究能力,在 NDSS、IEEE S&P、CCS、USENIX Security 等顶级安全会议有工作发表优先;
4、在安全风控领域相关比赛中有获奖经历优先;
5、具备良好的合作与沟通能力,能够推进较为复杂的跨团队协作项目。
公司介绍

阿里巴巴(中国)有限公司
阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企
公司信息:
公司名称:阿里巴巴(中国)有限公司
公司类型:互联网/电子商务
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: