大模型安全运营工程师(J13854)当面告知

科大讯飞股份有限公司
2026-11-15 18:30:12
校招27届本科硕士

岗位详情

地区:

合肥市

专业要求:

统计学人工智能计算机科学与技术数据科学与大数据技术网络空间安全

岗位职责:

1. 负责大模型和AI-Agent全生命周期风控运营,平衡业务安全性与用户体验。 2. 深耕多模态对话、Agent等应用场景,负责安全策略设计与落地,闭环处置Prompt注入、隐私泄露、策略误漏判等各类风险问题。 3. 基于线上数据提炼风险特征,迭代优化风控策略,提升策略准确率、召回率。 4. 推动安全运营工具、自动化安全评测工具的迭代优化。 5. 持续跟进AI监管政策、新型攻防手段,沉淀风险案例库,推动安全能力从事后处置向主动防御演进。 入职后将结合个人背景,侧重深耕其中一个专项方向: ① 大模型内容安全评测:搭建大模型安全评测体系与上线准入基线;针对模型越狱、对抗样本、模型幻觉等风险制定测评方案;落地红队自动化测评工具,承接大模型专项安全测试工作。 ② 大模型风控运营:搭建线上风险告警机制,维护风控规则与风险案例库;排查并调优线上误判、漏判问题;为新业务输出前置风控预案,保障业务平稳上线。 ③ AI‑Agent安全防护:开展智能体安全攻击测试,识别工具越权、意图偏离等Agent特有风险;依托防护原子技术,设计并持续优化安全防护策略。

招聘要求:

1. 本科及以上学历,人工智能、计算机、网络空间安全、大数据、统计学等相关专业; 2. 具备扎实的AI与大数据数据分析能力,擅长从海量风险数据中提炼特征、定位根因、输出可落地策略; 3. 有AI红队测评、Agent攻防、大模型内容风控实习/项目经验,熟练使用安全评测工具、具备风险数据分析经验者优先;有CTF、安全赛事、NLP算法竞赛获奖者优先; 4. 拥有优秀的结构化拆解与逻辑推演能力,跨部门协同高效,能够独立牵头推进风控策略迭代、安全评测、风险治理类项目全流程落地。 5. 工作主动、抗压性强,能适配AI业务快速迭代节奏; 6. 入职后将结合个人能力及业务需求,定岗深耕内容安全评测/风控运营、智能体安全运营任一方向。 此岗位为科大讯飞集团统一招聘岗位,人员通过简历筛选、初试、复试、终审等环节后录用。

公司介绍

科大讯飞股份有限公司

科大讯飞股份有限公司

科大讯飞股份有限公司,成立于1999-12-30,位于安徽,法定代表人:刘庆峰,登记状态:存续,注册资本231173.4185万人民币,公司类型:民营/私企

公司信息:


公司名称:科大讯飞股份有限公司


公司类型:


公司性质:--


公司地点:安徽省合肥市合肥


公司规模:--


涉及领域:--


公司网址:安徽省合肥市合肥