【校招】大模型安全攻防算法工程师/青年研究员-安全基模中心当面告知
上海人工智能实验室有限公司
2026-12-24 02:54:01
校招博士26届27届28届硕士
岗位详情
地区：
上海
专业要求：
人工智能自动化软件工程
岗位职责：
1. 参与大模型内生安全算法研究，探索面向大模型及智能体系统的内生安全训练方法；
2. 研究大模型与智能体的潜在安全边界，包括 Jailbreak、Prompt Injection、工具滥用、权限绕过、长程任务风险等问题，并探索相应的红队与防御增强方法；
3. 面向AI4Science等典型高风险场景，构建长链任务环境和实验任务，探索红队方法，验证模型在多步骤规划、环境交互、工具调用和持续决策过程中的安全能力；
4. 参与大模型训练、推理、分布式 Rollout 及实验基础设施建设，支持大规模安全算法实验与模型迭代；
5. 跟进大模型安全、Cyber Agent、AI4Science Agent 等前沿研究，并推动相关技术在真实复杂任务中的验证与落地。
招聘要求：
1. 计算机、人工智能、软件工程、自动化、电子信息等相关专业硕士及以上学历；
2. 了解大语言模型基本原理，以及预训练、SFT、强化学习等训练与后训练流程；
3. 熟悉 Python，具备 PyTorch 等深度学习框架使用经验，有大模型训练或算法实验经验者优先；
4. 接触过 SFT、RLHF / RLAIF、PPO / GRPO、Reward Model、Verifier、数据生成等一种或多种技术；
5. 具备基本的 Linux、Git、Docker 等开发环境使用能力，能够完成模型训练、推理及实验分析；
6. 具备良好的问题分析、任务拆解和快速学习能力，对大模型安全、安全对齐或强化学习方向有长期兴趣。
公司介绍
上
上海人工智能实验室有限公司
上海人工智能实验室有限公司，成立于2025-01-26，位于上海，法定代表人：林纯洁，登记状态：存续，注册资本800万人民币，公司类型：国有企业