大模型攻击和防御技术研究-阿里星当面告知
阿里巴巴(中国)有限公司
2027-02-07 21:43:35
校招博士27届硕士
岗位详情
地区:
杭州市
专业要求:
人工智能计算机科学与技术信息安全
岗位职责:
1. 负责研究大模型攻击机理,覆盖提示注入、模型越狱、知识蒸馏、思维链(CoT)窃取、数据投毒等方向,建设系统化的攻击方法论、攻击库与攻击工具链;
2. 针对各类攻击机理,设计并落地模型侧(对齐加固、鲁棒性训练)与应用侧(输入输出防护、运行时监测)防御方案,重点攻关反蒸馏与模型资产保护(输出扰动、水印、蜜罐投毒等);
3. 构建大模型攻防评测集(攻击集 + 防御效果集),定义并基准化攻击成功率、防御召回率、蒸馏还原度等核心指标,驱动攻防能力可度量、可迭代;
4. 沉淀攻防技术文档与最佳实践,跟踪学术前沿(顶会论文、开源攻击/防御项目),参与技术分享与标准共建。
招聘要求:
1. 计算机科学、人工智能、信息安全或相关专业硕士及以上学历;
2. 熟悉 LLM 基本原理(Transformer、预训练/对齐、RLHF/DPO 等),理解模型能力与安全对齐的内在关系;
3. 扎实的 Python 编程能力,熟悉至少一种主流大模型框架(HuggingFace / vLLM / LangChain 等);
4. 有安全攻防实战经验(渗透测试、漏洞挖掘、红蓝对抗之一即可);
5. 良好的英文文献阅读能力,能独立跟踪并复现前沿研究。
公司介绍

阿里巴巴(中国)有限公司
阿里巴巴(中国)有限公司,成立于2007-03-26,位于浙江,法定代表人:蒋芳,登记状态:存续,注册资本15460.55039万美元,公司类型:民营/私企
公司信息:
公司名称:阿里巴巴(中国)有限公司
公司类型:互联网/电子商务
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: