大模型攻击和防御技术研究-阿里星当面告知

阿里巴巴(中国)有限公司
2027-02-07 21:43:35
校招博士27届硕士

岗位详情

地区:

杭州市

专业要求:

人工智能计算机科学与技术信息安全

岗位职责:

1. 负责研究大模型攻击机理,覆盖提示注入、模型越狱、知识蒸馏、思维链(CoT)窃取、数据投毒等方向,建设系统化的攻击方法论、攻击库与攻击工具链; 2. 针对各类攻击机理,设计并落地模型侧(对齐加固、鲁棒性训练)与应用侧(输入输出防护、运行时监测)防御方案,重点攻关反蒸馏与模型资产保护(输出扰动、水印、蜜罐投毒等); 3. 构建大模型攻防评测集(攻击集 + 防御效果集),定义并基准化攻击成功率、防御召回率、蒸馏还原度等核心指标,驱动攻防能力可度量、可迭代; 4. 沉淀攻防技术文档与最佳实践,跟踪学术前沿(顶会论文、开源攻击/防御项目),参与技术分享与标准共建。

招聘要求:

1. 计算机科学、人工智能、信息安全或相关专业硕士及以上学历; 2. 熟悉 LLM 基本原理(Transformer、预训练/对齐、RLHF/DPO 等),理解模型能力与安全对齐的内在关系; 3. 扎实的 Python 编程能力,熟悉至少一种主流大模型框架(HuggingFace / vLLM / LangChain 等); 4. 有安全攻防实战经验(渗透测试、漏洞挖掘、红蓝对抗之一即可); 5. 良好的英文文献阅读能力,能独立跟踪并复现前沿研究。

公司介绍

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司

阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企

公司信息:


公司名称:阿里巴巴(中国)有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: