GUIAgent Bench及数据构建方式研究当面告知

深圳市腾讯计算机系统有限公司
2026-12-12 20:45:04
其他校招27届

岗位详情

地区:

北京
·
深圳市

专业要求:

专业不限

岗位职责:

课题详情: 课题背景: 多模态Agent的发展正经历从命令行界面(CLI)向直接操作图形用户界面(GUI)的跨越。然而,高质量、真实的“视觉-动作”轨迹数据极度匮乏,导致Agent难以在真实复杂的屏幕交互中实现精准理解和操作,亟需突破数据瓶颈。 课题挑战: 1)自动化数据合成范式:真实GUI交互轨迹收集成本极高,基于大模型及DOM树解析技术,探索出一条高效自动化合成GUI-ACTION指令的数据范式是首要难点。 2)全场景定位与操作:构建具有高指令密度的训练集及评测基准,并确保视觉Agent在Web、Office、PC及Mobile等异构设备与复杂场景下,均能实现极高准确率的UI元素定位(Grounding)与操作。 具体工作: 研发自动化GUI-ACTION数据合成方法;构建高指令密度的GUI训练数据集及评测Benchmark;提升视觉Agent在多端场景下的UI定位与操作准确率 课题要求: 学历和专业:计算机视觉、VLM、计算机图形学或机器学习相关方向;在ICLR、NeurlPS,ICML、KDD、AAAI,IJCAI等机器学习领域会议或者期刊有第一作者发表过至少一篇文章。 技术技能:熟悉模型开发&训练常见框架,具备快速阅读和复现论文的能力,熟悉常见Agent框架及Agentic Workflow

招聘要求:

课题详情: 课题背景: 多模态Agent的发展正经历从命令行界面(CLI)向直接操作图形用户界面(GUI)的跨越。然而,高质量、真实的“视觉-动作”轨迹数据极度匮乏,导致Agent难以在真实复杂的屏幕交互中实现精准理解和操作,亟需突破数据瓶颈。 课题挑战: 1)自动化数据合成范式:真实GUI交互轨迹收集成本极高,基于大模型及DOM树解析技术,探索出一条高效自动化合成GUI-ACTION指令的数据范式是首要难点。 2)全场景定位与操作:构建具有高指令密度的训练集及评测基准,并确保视觉Agent在Web、Office、PC及Mobile等异构设备与复杂场景下,均能实现极高准确率的UI元素定位(Grounding)与操作。 具体工作: 研发自动化GUI-ACTION数据合成方法;构建高指令密度的GUI训练数据集及评测Benchmark;提升视觉Agent在多端场景下的UI定位与操作准确率 课题要求: 学历和专业:计算机视觉、VLM、计算机图形学或机器学习相关方向;在ICLR、NeurlPS,ICML、KDD、AAAI,IJCAI等机器学习领域会议或者期刊有第一作者发表过至少一篇文章。 技术技能:熟悉模型开发&训练常见框架,具备快速阅读和复现论文的能力,熟悉常见Agent框架及Agentic Workflow

公司介绍

深圳市腾讯计算机系统有限公司

深圳市腾讯计算机系统有限公司

深圳市腾讯计算机系统有限公司,成立于1998-11-11,位于广东,法定代表人:马化腾,登记状态:存续,注册资本6500万人民币,公司类型:民营/私企

公司信息:


公司名称:深圳市腾讯计算机系统有限公司


公司类型:互联网/电子商务


公司性质:5000以上


公司地点:


公司规模:--


涉及领域:--


公司网址: