AI应用工程师(评测方向)当面告知
网易(杭州)网络有限公司
2027-02-11 12:07:21
社招博士本科硕士
岗位详情
地区:
广州市
专业要求:
人工智能计算机科学与技术软件工程
岗位职责:
我们正在构建内部 Agent Benchmark 评测体系,聚焦 Coding Agent 方向,系统性地度量和驱动 AI 编程能力的提升。你将深度参与评测基准的设计、数据集构建、自动化评测平台搭建等核心工作,直接影响产品的技术演进方向。
工作职责
1. Benchmark 体系设计与构建:针对 Coding Agent 场景(代码理解、代码生成、代码重构、Spec Coding、代码 Review、Bug 修复等),设计多维度、多粒度、支持多轮对话的评测基准,覆盖端到端任务完成度、代码质量、工具调用准确性、推理链路合理性等核心指标;
2. 评测数据集建设:构建并持续维护高质量评测数据集(Golden Dataset),设计覆盖不同语言、不同复杂度、不同工程场景的测试用例,确保数据集的区分度和代表性;
3. 自动化评测平台开发:搭建自动化评测 Pipeline,支持多模型/多 Agent 的批量评测、结果对比与回归检测,实现评测流程的标准化和可复现;
4. 竞品对标分析:跟踪业界主流 Coding Agent 产品(如 Claude Code、Codex、Cursor、Copilot等)以及 Benchmark(SWE-Bench、HumanEval、Terminal-Bench、OctoCodingBench、WildClawBench、GAIA、WebArena、AgentBench、ToolBench 等),完成专项对比评测并输出分析报告;
5. 评测方法论研究:探索 LLM-as-Judge、对抗性测试、人机混合评估等前沿评测方法,持续迭代评测体系的科学性和有效性;
6. 结果可视化与洞察输出:开发评测报告自动生成能力,提供可视化的评测看板,将评测结论转化为可落地的产品优化建议。
招聘要求:
1. 本科及以上学历,计算机科学、软件工程、人工智能等相关专业;
2. 3-5 年相关工作经验,有 Agent/LLM Benchmark 构建经验者优先;
3. 熟练掌握 Python 和 TypeScript,具备扎实的工程开发能力,能独立完成评测工具链的设计与开发;
4. 对 Coding Agent 的工作范式有深入理解(规划-执行-反思循环、工具调用机制、多步推理等),是 Claude Code/ Codex / Cursor / Copilot 等 AI 编程工具的重度用户;
5. 熟悉主流 Agent 评测框架或 Benchmark(SWE-Bench、HumanEval、Terminal-Bench、OctoCodingBench、WildClawBench、GAIA、WebArena、AgentBench、ToolBench 等)中的至少3种;
6. 具备较强的数据分析和结构化拆解能力,能从评测数据中提炼有效洞察;
7. 良好的文档撰写和跨团队协作能力,能清晰表达评测结论和改进方案。
加分项
1. 有评测数据标注流程与质量控制方法论经验;
2. 熟悉 LangSmith、LangFuse 等 LLM 可观测性工具,能追踪 Agent 全链路执行日志;
3. 有自动化测试框架开发经验,熟悉 CI/CD 流程集成;
4. 在相关领域有论文发表或开源项目贡献。
公司介绍

网易(杭州)网络有限公司
网易(杭州)网络有限公司,成立于2006-06-02,位于浙江,法定代表人:丁磊,登记状态:存续,注册资本13760万美元,公司类型:民营/私企
网易公司(NASDAQ:NTES)成立于1997年,是中国领先的互联网技术公司,也是中国主要门户网站,网易公司推出了门户网站、在线游戏、电子邮箱、在线教育、电子商务、在线音乐等多种服务。2019年8月22日,2019中国民营企业服务业100强发布,网易(杭州)网络有限公司排名第37。2019年浙江高新企业百强榜排名第45位。2020年9月10日,2020中国民营企业500强榜单发布,网易(杭州)网络有限公司位列第138位,营业收入5924115万元。