你看到的那个第一,尺子是前一天换的

cover

Hello,我是飞飞。

先问你一件事:你现在每天用的那个模型,是凭什么挑出来的。我猜不少人是看榜挑的。谁家发了新模型,榜单一登顶,新闻一转,心里就开始动摇。

如果你也是这么选的,那这两天的两件事,正好拿来验一下你那张表。

10 月 27 号,评测机构 Artificial Analysis 把自家的智能指数升到了第五版。10 月 28 号,Google 发布 Gemini 4 Carbon,在这张新榜上拿到 59 分,登顶。

这两天转得最多的是后面那条。我盯着的是前面那条。

新考卷出来的第二天,才有人考第一。这个第一,得放在新卷子的刻度上看。

先是换考卷,再是登顶

榜单这东西,说人话就是一份综合考卷。九项评测,分成四类,每类各占四分之一:知识工作、编程、科学、通用。每项打分,加权算出一个总分,范围 0 到 100。

v5 这次最大的改动在题目来源。考卷里六成换成了私题,或者答案不公开的留出题。官方原话是这么写的,六成的指数基于私有测试集或留出答案。

翻译一下:以前有些题在网上能查到标准答案,模型训练时可能已经见过;现在六成的题,模型没机会提前看。

理由不难猜。题目一旦公开,迟早被背下来。

公告里换掉了什么

具体换了几样,值得一条条看。每一处都影响你能拿到的分数。

先删了三道旧题。名字不用记,反正是被拿掉的东西。

新增两个。FrontierCode 2.0,是 Cognition 出的私有编码题,132 个真实开源仓库里的任务。每道跑三次,评分标准是「维护者愿不愿意合并你这份改动」。Terminal-Bench-Science,70 个终端里的科研任务,专家出题、专家审。

升级三个。HLE-Diamond 顶掉了原来的 HLE,一千道题,推理和知识各一半。AA-Omniscience 删掉了饱和题和公开题。CritPt 砍成 40 道私题,全部带代码执行。

最后这一条我想单独说,因为它最能说明问题。

CritPt 原来的 70 道题里,有 30 道被剔掉了。理由写得很直白:这 30 道题,7 个前沿模型在发布时试了五次,全对。

五次全对,意味着这道题量不出差别。量不出差别的题留着没用,删掉。

一把尺子想量得更细,第一步是把量不出差别的刻度去掉。

同一个模型,五天掉九分

10 月 24 号,我写过一篇,标题是《三天前我立的 9 分之问,月之暗面交卷了》。那天我是从上往下数的:Opus 5.5、Sonnet 5.5、Opus 的高推理档、Muse。数到第五行,才是它,Kimi K3.1 Pro,55 分。我给它的判词是:和闭源旗舰之间那道 9 分的题,填平了。

今天这张榜上,同一个名字后面写着 46。

模型一个字没改。权重也还是 11 月 4 日才放。

那这 9 分去哪了。不是它的分掉了,是考卷换了,同一份本事在新卷上没那么够用。

我把能核到的跨卷前后值摆在一起。先说一句,AA 的公告里没交代这版有没有把所有老模型重跑一遍,所以下面这张表只能读成「榜上显示的值变了」,不能读成「我确认它们被重新测过」。

模型 旧卷 新卷 v5 变化
Claude Opus 5.5 58 58 0
Gemini 4 Argon 53 50 -3
Kimi K3.1 Pro 55 46 -9

旧卷那一列,是我 10 月 14 号和 24 号两篇里记下的当时榜单值。写这篇前又回去核过。新卷来自 AA 的公告和模型页。

三个模型,同一场换卷,动了 0 分、3 分、9 分。

如果新卷只是统一把分数压低,这三个数应该一起往下走。事实是有一个一分没动。

打个比方。三个人原来挤在同一级台阶上,重新量一遍,一个没动,一个退了三格,一个退了九格。卷子并没有一起变难,是原来贴着站的那几个,被拉开了。

AA 自己给了同一件事的另一个说法。开源权重和闭源之间的差距,从 3 分扩到了 12 分。58 减 55 是 3,58 减 46 是 12,两个数对得上。

我 10 月 24 号那句「9 分填平了」,在这把尺子上不成立,得改成 12 分。

有人会说这是打脸。我不这么算。那把尺子当时就在往上走,这句话我自己在文里写过。我没料到的是它走得这么快,三天就换了卷。

真要挑我自己的错,错在把「当下的尺子」当成了「不会动的尺子」。这篇讲的恰恰就是这件事。

领先一分,占了两格

说回登顶。

59 分,第二是 Claude Opus 5.5 的 58 分,第三是同一个 Claude Opus 5.5 的另一个推理档,57 分。

一个模型占了第二和第三两格,这件事我 10 月 24 号拆过一次。按榜单条目数是第几行,按模型家族数是第几家。两个数都对,引用的时候得说自己数的是哪一种。

所以这个第一,领先的是 1 分。1 分在这张 0 到 100 的卷子上是什么概念,我没有误差棒可以直接比。要我读,我把它当成同一档。不把它当成压了一头。

还有一层。这个 59 是换卷第二天拿到的。上一版卷子上,同门的 Gemini 4 Argon 是 53 分。

这个第一你调不到

Carbon 登顶了,但你现在用不上。

Google 官方博客写得很清楚。这个模型目前只向一小批通过审核的网络安全防御方开放,走一个叫 Fairwind 的计划逐步扩。Google 同时说它参加了美国政府自愿性的发布前测试。面向开发者、企业、消费者的版本,给的说法是最快之后上,没有日期。

更硬的证据在这里。到今天为止,Google 没有公布这个模型的 ID,也没有公开可调用的接口。

对比一下同门。两周前发的 Gemini 4 Argon,现在在 Gemini 的 API 文档里是稳定版,模型 ID 就叫 gemini-4-argon,100 万上下文。

一个已经挂在 API 上,一个连 ID 都还没公布。

所以「世界第一」和「你明天能不能换上」,是两件不同的事。决定后者的主要是审核、合规和分发,分数只占其中一小部分。

七点七六美元一件活

AA 的模型页上还有几个数,Google 官方博客没提:

每任务成本 7.76 美元,51 个模型里排第 45,靠最贵那一头。

首 token 延迟 103.13 秒,同级中位数 3.72 秒。

103 秒别慌。这是把一堆思考型模型的耗时混在一起算的口径,不等于你问一句就要等 103 秒。但它至少说明一件事:这个模型是拿来长时间琢磨的,不是拿来陪你碎聊的。你要拿它做实时补全,方向就选错了。

同一天能对照的几个模型:Claude Opus 5.5 每任务 10.04 美元,GPT-6 Astra 6.24 美元,GPT-6.1 Sol 1.27 美元。

Sol 拿 55 分,比 Opus 的 58 分低 3 分,成本大约八分之一。

3 分对八分之一的价钱,这个交换我认。我流水线里那几道格式转换、打标签、查重初筛的杂活,正好是这个价位该干的活。

还有个价格口径要说清楚。Google 给的是介绍价,输入 2 美元、输出 10 美元每百万 token,介绍期之后变成 4 和 20。AA 页面上挂的是 4 和 20,也就是标准价。

所以那个 7.76 是按标准价算出来的,早期用上的人,实际花的可能更少。

我在 10 月 14 号那篇里给过一套读这类数的四步法。第一问就是「这个数用的是什么价」。今天这一问又用上了。

顺带一句:2 到 10 变成 4 到 20,这组数字和 10 月 14 号那篇里 Gemini 4 Argon 的价格表一字不差。十几天过去,同一张价格表又挂了一次。

看到登顶先问三件事

这套读法我这个月用了三回:10 月 14 号对 Argon 的促销价,10 月 24 号对 Kimi 的分数,今天对 Carbon 的登顶。三次都指向同一件事:数字本身不骗人。容易漏看的,是数字背后那版尺子。

下次再看到谁家登顶,先问三件事。

  • 这份卷子是第几版。榜单有版本号,跨版本的分不能直接比。
  • 领先多少。1 分和 9 分是两件事;同一个模型的两个档位占两格,又是另一件事。
  • 你自己调不调得到,调到了划不划算。连 ID 都没公开的第一名,对你这周的工作没有任何改变。就算调得到,7.76 美元一件活、首字平均要等 103 秒,这活也得配得上这个价。

我自己的表也要改一行。

10 月 24 号我定过一件事:11 月 4 号 Kimi K3.1 Pro 权重一放,就接进 Claude Code 跑两天,看工具调用飘不飘。这个计划不变。

验收标准得改。原来我给自己划的线是「它离 Opus 差 3 分,值得试」。在这版卷子上,它离 Opus 差 12 分。3 分我会试,12 分我也会试。只是理由从「差不多追上了」,变成「看看差的那 12 分落在哪些活上」。

开头我问过你,现在用的模型是凭什么挑的。如果答案只是看榜挑的,那这篇文章想说的就一句。榜会换版,分不能跨版比,第一名也可能根本不让你用。

下次换模型之前,多问那三句。

你那张表里,哪个模型是当初因为跑分高才留下来的。评论区说一下它的名字,我帮你看看它在新卷上还剩几分。