AI应用安全当面告知

华为投资控股有限公司
2027-02-07 19:42:36
校招27届本科

岗位详情

地区:

北京市
·
上海市
·
南京市
·
苏州市
·
杭州市
·
济南市
·
武汉市
·
长沙市
·
深圳市
·
东莞市
·
成都市
·
西安市

专业要求:

人工智能自动化计算机科学与技术信息安全网络空间安全

岗位职责:

1、Agent 决策一致性与对齐研究: 研究如何通过强化学习(RLHF/DPO)或构造新型损失函数,确保 Agent 在执行复杂长链路任务时,其行为逻辑始终符合人类伦理与预设安全基线; 2、多智能体对抗博弈: 探索多 Agent 协作环境下的安全风险,研究智能体之间是否存在潜在的“共谋”绕过安全机制,并设计去中心化的安全审计机制; 3、形式化验证与逻辑安全: 尝试利用形式化方法(Formal Methods)验证 Agent 动作空间的安全性,将模糊的语言指令转化为可数学证明的逻辑约束; 4、动态隐私追踪技术: 研究在 Agent 频繁调用外部工具、跨应用传输数据时,如何实现细粒度的隐私数据动态追踪与策略强制执行。 教育背景:计算机科学、人工智能或相关方向,在 ACL, EMNLP, NeurIPS, ICLR 等顶会有高质量论文发表。 深厚理论背景:深入理解强化学习、博弈论或控制论在 AI 安全中的应用。 创新能力:能够从 0 到 1 提出解决“黑盒攻击”或“间接注入”的防御架构,而非仅仅依赖现有的过滤规则。 视野:对 AGI 时代的对齐问题(Superalignment)有深刻见解。

招聘要求:

1、Agent 决策一致性与对齐研究: 研究如何通过强化学习(RLHF/DPO)或构造新型损失函数,确保 Agent 在执行复杂长链路任务时,其行为逻辑始终符合人类伦理与预设安全基线; 2、多智能体对抗博弈: 探索多 Agent 协作环境下的安全风险,研究智能体之间是否存在潜在的“共谋”绕过安全机制,并设计去中心化的安全审计机制; 3、形式化验证与逻辑安全: 尝试利用形式化方法(Formal Methods)验证 Agent 动作空间的安全性,将模糊的语言指令转化为可数学证明的逻辑约束; 4、动态隐私追踪技术: 研究在 Agent 频繁调用外部工具、跨应用传输数据时,如何实现细粒度的隐私数据动态追踪与策略强制执行。 教育背景:计算机科学、人工智能或相关方向,在 ACL, EMNLP, NeurIPS, ICLR 等顶会有高质量论文发表。 深厚理论背景:深入理解强化学习、博弈论或控制论在 AI 安全中的应用。 创新能力:能够从 0 到 1 提出解决“黑盒攻击”或“间接注入”的防御架构,而非仅仅依赖现有的过滤规则。 视野:对 AGI 时代的对齐问题(Superalignment)有深刻见解。

公司介绍

华为投资控股有限公司

华为投资控股有限公司

4
华为投资控股有限公司,成立于2003-03-14,位于广东,法定代表人:赵明路,登记状态:存续,注册资本6388564.2497万人民币,公司类型:民营/私企

--