AI应用安全当面告知
华为投资控股有限公司
2027-02-07 19:42:36
校招27届本科
岗位详情
地区:
北京市
·
上海市
·
南京市
·
苏州市
·
杭州市
·
济南市
·
武汉市
·
长沙市
·
深圳市
·
东莞市
·
成都市
·
西安市
专业要求:
人工智能自动化计算机科学与技术信息安全网络空间安全
岗位职责:
1、Agent 决策一致性与对齐研究: 研究如何通过强化学习(RLHF/DPO)或构造新型损失函数,确保 Agent 在执行复杂长链路任务时,其行为逻辑始终符合人类伦理与预设安全基线;
2、多智能体对抗博弈: 探索多 Agent 协作环境下的安全风险,研究智能体之间是否存在潜在的“共谋”绕过安全机制,并设计去中心化的安全审计机制;
3、形式化验证与逻辑安全: 尝试利用形式化方法(Formal Methods)验证 Agent 动作空间的安全性,将模糊的语言指令转化为可数学证明的逻辑约束;
4、动态隐私追踪技术: 研究在 Agent 频繁调用外部工具、跨应用传输数据时,如何实现细粒度的隐私数据动态追踪与策略强制执行。
教育背景:计算机科学、人工智能或相关方向,在 ACL, EMNLP, NeurIPS, ICLR 等顶会有高质量论文发表。
深厚理论背景:深入理解强化学习、博弈论或控制论在 AI 安全中的应用。
创新能力:能够从 0 到 1 提出解决“黑盒攻击”或“间接注入”的防御架构,而非仅仅依赖现有的过滤规则。
视野:对 AGI 时代的对齐问题(Superalignment)有深刻见解。
招聘要求:
1、Agent 决策一致性与对齐研究: 研究如何通过强化学习(RLHF/DPO)或构造新型损失函数,确保 Agent 在执行复杂长链路任务时,其行为逻辑始终符合人类伦理与预设安全基线;
2、多智能体对抗博弈: 探索多 Agent 协作环境下的安全风险,研究智能体之间是否存在潜在的“共谋”绕过安全机制,并设计去中心化的安全审计机制;
3、形式化验证与逻辑安全: 尝试利用形式化方法(Formal Methods)验证 Agent 动作空间的安全性,将模糊的语言指令转化为可数学证明的逻辑约束;
4、动态隐私追踪技术: 研究在 Agent 频繁调用外部工具、跨应用传输数据时,如何实现细粒度的隐私数据动态追踪与策略强制执行。
教育背景:计算机科学、人工智能或相关方向,在 ACL, EMNLP, NeurIPS, ICLR 等顶会有高质量论文发表。
深厚理论背景:深入理解强化学习、博弈论或控制论在 AI 安全中的应用。
创新能力:能够从 0 到 1 提出解决“黑盒攻击”或“间接注入”的防御架构,而非仅仅依赖现有的过滤规则。
视野:对 AGI 时代的对齐问题(Superalignment)有深刻见解。
公司介绍

华为投资控股有限公司
4
华为投资控股有限公司,成立于2003-03-14,位于广东,法定代表人:赵明路,登记状态:存续,注册资本6388564.2497万人民币,公司类型:民营/私企
--