AI应用安全当面告知
华为投资控股有限公司
2027-02-07 19:40:22
校招27届本科
岗位详情
地区:
北京市
·
上海市
·
南京市
·
苏州市
·
杭州市
·
济南市
·
武汉市
·
长沙市
·
深圳市
·
东莞市
·
成都市
·
西安市
专业要求:
人工智能计算机科学与技术软件工程信息安全网络空间安全
岗位职责:
1、Agent 攻防红队: 针对智能体系统进行“提示词攻击”测试(如直接/间接提示词注入、越权提权),挖掘 Agent 在自主决策路径上的漏洞;
2、工具调用安全(Tool/Plugin Security): 评估并设计 Agent 调用外部接口(API、数据库、Shell)时的安全校验机制,防止非法指令执行;
3、RAG 与隐私保护: 负责检索增强生成(RAG)过程中的数据权限控制,确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露;
4、防御组件研发: 开发与维护 AI 护栏(Guardrails)系统,对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截;
5、业务风险建模: 针对特定业务场景(如 AI 助手、自动化办公)进行威胁建模,制定 Agent 行为的安全基线。
编程基础: 熟练掌握 Python,熟悉 LangChain、LlamaIndex 或类似的 Agent 开发框架。
AI 视野: 深入理解 LLM 的推理机制及 RAG 架构,熟悉 OWASP Top 10 for LLM 风险分类。
安全背景: 熟悉常见的 Web 安全漏洞(如 SSRF、注入、权限逻辑漏洞),并能理解其在 AI 场景下的演变。
加分项: 有过对主流 AI 应用(如 GPTs、大模型插件)的实战漏洞挖掘经验;熟悉差分隐私或脱敏算法。
招聘要求:
1、Agent 攻防红队: 针对智能体系统进行“提示词攻击”测试(如直接/间接提示词注入、越权提权),挖掘 Agent 在自主决策路径上的漏洞;
2、工具调用安全(Tool/Plugin Security): 评估并设计 Agent 调用外部接口(API、数据库、Shell)时的安全校验机制,防止非法指令执行;
3、RAG 与隐私保护: 负责检索增强生成(RAG)过程中的数据权限控制,确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露;
4、防御组件研发: 开发与维护 AI 护栏(Guardrails)系统,对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截;
5、业务风险建模: 针对特定业务场景(如 AI 助手、自动化办公)进行威胁建模,制定 Agent 行为的安全基线。
编程基础: 熟练掌握 Python,熟悉 LangChain、LlamaIndex 或类似的 Agent 开发框架。
AI 视野: 深入理解 LLM 的推理机制及 RAG 架构,熟悉 OWASP Top 10 for LLM 风险分类。
安全背景: 熟悉常见的 Web 安全漏洞(如 SSRF、注入、权限逻辑漏洞),并能理解其在 AI 场景下的演变。
加分项: 有过对主流 AI 应用(如 GPTs、大模型插件)的实战漏洞挖掘经验;熟悉差分隐私或脱敏算法。
公司介绍

华为投资控股有限公司
4
华为投资控股有限公司,成立于2003-03-14,位于广东,法定代表人:赵明路,登记状态:存续,注册资本6388564.2497万人民币,公司类型:民营/私企
--