工作地点：上海 面向专业：计算机科学与技术、软件工程、网络工程、人工智能、通信与信息系统、电子信息工程等相关专业 岗位目的： 参与部门AI业务创新：负责Token聚合分发平台的日常运营，以及GPU服务器集群、一体机等硬件环境的部署、调试与效率优化，参与大模型服务的对接调优工作，确保平台稳定运行并持续提升资源利用率。 岗位职责： 1.Token聚合分发平台运营 - 监控API调用量、计费数据与各厂商通道状态，处理异常告警和计费差异； - 对接多家大模型厂商API，执行渠道接入测试、接口适配验证和质量比对； - 根据成本、性能与稳定性数据，调整Token路由权重策略，并跟踪路由效果变化； - 定期导出运营数据，整理成周报/月报，反馈给产品和商务团队。 2.硬件服务器与集群优化 - 负责 GPU 服务器运维调优（驱动、容器化、监控告警等）； - 参与集群网络组网设计与优化，包括InfiniBand、RoCE等高速网络的配置和性能调优； - 排查生产环境稳定性与性能问题，完成问题定位和事故复盘。 3.大模型对接与系统调优 - 参与大模型推理服务的部署、接口封装与性能压测； - 使用推理加速框架（如vLLM、TensorRT-LLM、Triton）进行模型服务化，调整批处理大小、显存分配等参数以提升推理性能； - 针对推理过程中的显存异常、慢请求等问题进行定位，通过日志和性能工具排查并修复； - 执行模型量化等推理优化实验，对比精度与速度变化，输出测试报告供决策使用； - 跟踪前沿技术，输出调研文档并进行内部技术分享。 招聘条件： 学历：本科及以上学历，计算机科学与技术、软件工程、网络工程、人工智能、通信与信息系统、电子信息工程等相关专业。 素质要求： 强动手能力：​ 面对陌生的硬件环境或软件报错，不畏惧“踩坑”，能主动查阅文档、定位问题并推动解决； 数据敏感度：​ 对数字和逻辑有基本直觉，能基于监控数据（如调用量、延迟、显存占用）发现异常并推导原因； 业务视角：​ 不满足于“把系统跑起来”，能思考技术选型背后的成本、性能与稳定性权衡； 协作与表达：​ 能将复杂的技术问题用清晰的语言同步给产品、商务等非技术团队，并输出结构化的运营报告。 加分项： 了解 GPU​ 硬件架构及 CUDA 基本概念，或有校内实验室 GPU 集群的使用经验； 接触过 InfiniBand / RoCE​ 等高速网络，或参与过 HPC/超算相关项目； 使用过 vLLM / TensorRT-LLM / Triton​ 等推理加速框架中的任意一种； 有云计算平台（阿里云/腾讯云/AWS）的使用经验，或大创/竞赛中涉及 AI 部署相关项目。 培养机制： · 双通道晋升：专业序列/管理序列双轨发展，不设天花板。 · 导师带教：入职配备资深导师，一对一辅导，助你快速融入。 · 体系化培训：新员工训练营 + 岗位专项培训。 · 前沿实践：深度参与 AI 智算中心、绿电直连、液冷、国家算力枢纽真实项目，服务核心行业客户。