给手机 Agent 盖一座驾校:OpenMobile-2 复刻 35 个 App,练兵场超过 110 个
OpenMobile-2 给手机 Agent 搭练兵场:复刻 35 个 App、总计 110 多个 App 环境,27B 模型在 AndroidWorld 上从基座的 67.1 提到 79.9。
学开车的人,不会第一天就上高速。
先去驾校,在场地里绕桩、倒库、坡道起步。撞了桩,没关系,倒回去重来。
驾校的价值,不在于它多像真实道路,而在于它允许犯错,而且随时可以重来。
我最近读到 The Decoder 的一篇报道,讲的就是给手机 Agent 盖驾校的事,觉得思路很有意思,分享给大家。
(1)手机 Agent 难在哪里?
手机 Agent 就是能替你操作手机的 AI。你说一句"帮我买一箱矿泉水",它自己打开购物 App,搜索、加购物车、下单。
听上去不难,为什么一直做不好?
一个很现实的原因是,没地方练。
真实的 App 要登录,付款是真付款,下了单就是真订单,而且没法一键"重置"回原来的状态。
让 AI 在真实的淘宝上反复练习下单,显然不行。
这就好比让新手直接在早高峰的马路上学车。
怎么解决呢?
据 The Decoder 10 月 25 日的报道,南京大学、商汤等机构的研究团队(作者 Yan et al.)给出的办法是:自己把 App 重做一遍。
这就是 OpenMobile-2。
(2)一座什么样的驾校?
研究团队重建了 35 个中国常用 App,包括淘宝、京东、滴滴、美团等,再加上 Slack 和 Google Drive。
连同已有的模拟环境和模拟器里的 App,一共 110 多个(官方口径是 110+)。
这些 App 不是随便画几个界面。据报道,团队人工比对界面,一直改到和原版一致为止。
更关键的是里面的"状态"。
订单、预算、行程会跨会话保存,剪贴板可以在 App 之间复制粘贴。
也就是说,Agent 在外卖 App 里看到的地址,可以复制到打车 App 里用,这跟真实手机上的体验是一样的。
每次练习结束,环境会自动重置。撞了桩,倒回去重来。
另外,Agent 只看截图。它看不到 App 的内部代码,只能像人一样,看着屏幕点点划划。
为什么要这样限制?
我的理解是,真实世界里的 App 不会把内部结构交给 Agent。只靠截图练出来的本事,才更有可能搬到真手机上用。就像驾校的车和路上的车,方向盘得是同一种。
团队发布了两款模型:基于 Qwen3.5 的 9B 模型,和基于 Qwen3.6 的 27B 模型,连同完整的训练环境、数据和复现说明一起公开。
(3)教练是谁?
驾校还需要教练。
据报道,训练数据包括约 11,600 条示范流程,以及 2,000 多个带自动成功判定的练习任务。
示范流程是由 Gemini 3.1 Pro 当老师生成的。
这一点值得注意----开源模型的"教练",其实是一个闭源模型。说白了,这是在向闭源模型学习。
我的理解是,这种做法的好处是起步快,代价是学生的上限可能受老师影响。这只是我的看法,报道没有展开。
(4)成绩怎么样?
下面的数字都是论文作者自报的,目前没有看到第三方复测。
AndroidWorld 基准上,27B 模型从 67.1 提高到 79.9,9B 模型从 54.3 提高到 74。这里的起点是训练前的基座模型本身(分别是 Qwen3.6-27B 和 Qwen3.5-9B),不是上一代 OpenMobile。上一代 OpenMobile-1 是一个 8B 模型,同一基准上是 64.7,只是放在旁边做个参照。
MobileWorld 是更长、要跨多个 App 的任务,27B 模型从基座的 35.9 提高到 50.4。
在真机测试 SPA-Bench 上,27B 模型从基座的 31.9 提高到 59.6。按作者的说法,这是开源模型里最好的成绩,仅次于 Gemini 3.1 Pro。
大家猜猜看,这里面最有意思的发现是什么?
我觉得是这一条:App 的种类多,比数据量多更管用。
作者做了一个对照:训练数据总量固定不变,只增加这些数据覆盖的 App 数量,模型在没见过的 App 上的成功率,从 60.7% 提高到 67.5%。
这跟学车很像。只在同一个场地里反复绕桩,不如多换几个场地。见过的路况多了,遇到新路况才不慌。
还有一条冷水,作者也老实写出来了:强化学习(RL)的增益有限。在 AndroidWorld 上,27B 模型经过 RL 之后,反而从 SFT 阶段的 80.8 降到 79.9。
(5)捷径要不要走?
OpenMobile-2 还试了一个"混合模式"。
在 50 多个模拟 App 里,团队额外开放了一些直接命令,比如"加入购物车"。Agent 可以不点按钮,直接调用这个命令。
奇怪的是,不专门训练的话,模型会无视这些捷径,还是老老实实一下一下地点。
专门训练之后,据作者自报,模型多解出了 10.3 个百分点的任务,平均少走约 5 步,而且能迁移到没见过的工具上。
训练的奖励规则也挺讲究。RL 过程中,只要用过一次直接命令,就有奖励系数加成;但如果 Agent 谎报任务成功,会被惩罚。
不过,这里一定要说清楚:这些直接命令目前只存在于模拟 App 里,作者自己也称之为实验性功能。真实的淘宝、美团并没有开放这种接口给 Agent 调用。
所以,它更像一个方向探索,而不是马上能用的能力。
(6)怎么判断及格?
驾考需要考官。
团队自建了一个 215 个任务的基准,接近一半要跨 App 完成。
判分方式很朴素:程序比对 App 存储的数据,看任务前后有没有发生预期的变化。比如订单表里是不是真的多了一条记录。
这里不用大模型当裁判。
我觉得这个选择是对的。大模型当裁判,本身也会出错;直接看数据库有没有变化,结果是确定的。
(7)放在一起看
手机 Agent 不只这一条路。
据报道,OPPO 的 X-OmniClaw 用 deeplink 重放操作路径;Gemini 3.5 Flash 则内置了手机控制能力。
OpenMobile-2 的特点是,把整座驾校----App、数据、模型、复现说明----都开源了。
对于普通开发者来说,这比一个跑分更有用。你可以自己去场地里绕几圈,看看 Agent 到底在哪里撞桩。
回头看,这个项目给我的最大启发是:对 Agent 来说,训练环境本身就是一种数据。
以前大家谈 Agent 训练,总在问"数据够不够多"。
OpenMobile-2 的对照实验提示了另一个问题:"场地够不够多样"。
一个能自动重置、状态真实、判分确定的环境,可以让 Agent 无限次地犯错和重来,这是真实 App 给不了的。
当然,模拟终究是模拟。真实 App 会改版、会弹广告、会要求验证码,这些在驾校里未必都能练到。驾校毕业,离老司机还有一段路。
如果你在研究手机 Agent,可以去看看这个项目。
(完)
来源:arXiv 2610.14157 论文;官方项目主页;The Decoder。论文首次提交于 2026-10-09;67.1、54.3、35.9、31.9 等起点为训练前基座模型(Qwen3.6-27B / Qwen3.5-9B)的成绩,OpenMobile-1(8B)的 64.7 仅作参照;各项成绩均为论文作者自报;“驾校”等比方为作者概括。