GUIAgent Bench及数据构建方式研究当面告知
深圳市腾讯计算机系统有限公司
2026-12-12 20:45:04
其他校招27届
岗位详情
地区:
北京
·
深圳市
专业要求:
专业不限
岗位职责:
课题详情:
课题背景: 多模态Agent的发展正经历从命令行界面(CLI)向直接操作图形用户界面(GUI)的跨越。然而,高质量、真实的“视觉-动作”轨迹数据极度匮乏,导致Agent难以在真实复杂的屏幕交互中实现精准理解和操作,亟需突破数据瓶颈。 课题挑战: 1)自动化数据合成范式:真实GUI交互轨迹收集成本极高,基于大模型及DOM树解析技术,探索出一条高效自动化合成GUI-ACTION指令的数据范式是首要难点。 2)全场景定位与操作:构建具有高指令密度的训练集及评测基准,并确保视觉Agent在Web、Office、PC及Mobile等异构设备与复杂场景下,均能实现极高准确率的UI元素定位(Grounding)与操作。 具体工作: 研发自动化GUI-ACTION数据合成方法;构建高指令密度的GUI训练数据集及评测Benchmark;提升视觉Agent在多端场景下的UI定位与操作准确率
课题要求:
学历和专业:计算机视觉、VLM、计算机图形学或机器学习相关方向;在ICLR、NeurlPS,ICML、KDD、AAAI,IJCAI等机器学习领域会议或者期刊有第一作者发表过至少一篇文章。 技术技能:熟悉模型开发&训练常见框架,具备快速阅读和复现论文的能力,熟悉常见Agent框架及Agentic Workflow
招聘要求:
课题详情:
课题背景: 多模态Agent的发展正经历从命令行界面(CLI)向直接操作图形用户界面(GUI)的跨越。然而,高质量、真实的“视觉-动作”轨迹数据极度匮乏,导致Agent难以在真实复杂的屏幕交互中实现精准理解和操作,亟需突破数据瓶颈。 课题挑战: 1)自动化数据合成范式:真实GUI交互轨迹收集成本极高,基于大模型及DOM树解析技术,探索出一条高效自动化合成GUI-ACTION指令的数据范式是首要难点。 2)全场景定位与操作:构建具有高指令密度的训练集及评测基准,并确保视觉Agent在Web、Office、PC及Mobile等异构设备与复杂场景下,均能实现极高准确率的UI元素定位(Grounding)与操作。 具体工作: 研发自动化GUI-ACTION数据合成方法;构建高指令密度的GUI训练数据集及评测Benchmark;提升视觉Agent在多端场景下的UI定位与操作准确率
课题要求:
学历和专业:计算机视觉、VLM、计算机图形学或机器学习相关方向;在ICLR、NeurlPS,ICML、KDD、AAAI,IJCAI等机器学习领域会议或者期刊有第一作者发表过至少一篇文章。 技术技能:熟悉模型开发&训练常见框架,具备快速阅读和复现论文的能力,熟悉常见Agent框架及Agentic Workflow
公司介绍

深圳市腾讯计算机系统有限公司
深圳市腾讯计算机系统有限公司,成立于1998-11-11,位于广东,法定代表人:马化腾,登记状态:存续,注册资本6500万人民币,公司类型:民营/私企
公司信息:
公司名称:深圳市腾讯计算机系统有限公司
公司类型:互联网/电子商务
公司性质:5000以上
公司地点:
公司规模:--
涉及领域:--
公司网址: