硅谷最卷的新赛道,刚刚杀出了一位开源新王!
最近,即将敲钟的Anthropic在IPO材料中曝出天价算力缺口,给狂卷参数的AI行业当头浇下一盆冷水。
通用大模型虽在编程、数学上大杀四方,可一旦真替人干活,算力账单就成了无底洞。
比生成文本更耗Token的是长链推理,而比推理更烧钱的则是操作浏览器,单次平均开销比复杂推理还要贵出4.8倍!

极度焦虑中,硅谷的「决策模型」大战全面打响。
初代标杆Jev率先开辟了「不写字、只判断」的快思考赛道,OpenAI、微软、亚马逊与Cloudflare等巨头紧随其后纷纷下场。
前两天,谷歌CEO劈柴也亲自下场,高调推出闭源决策模型Gemini Decision 1。

巨头混战、炮火连天。一匹开源黑马Karpo Decision 31B强势杀出!
在300个模型同台厮杀的Decision Index权威评测总榜上,它一举冲上榜首,夺得全球第一!

https://huggingface.co/spaces/multimodalart/jev-decision-index
这次,0.8B到31B全尺寸Karpo Decision家族已全部开源!
其中,夺冠的31B旗舰单卡中位延迟低至94毫秒,校准误差压到0.023,单题最多可同时评估255个选项。

硬刚谷歌闭源王牌
开源黑马三局连胜
不同于逐字生成的传统大模型,Karpo Decision专为AI智能体的高频拍板而生。
只需输入当前状态和问题,它一次前向推理就能直接算出所有选项的概率,全程不生成任何Token。
靠着这套极速判断机制,Karpo开源即登顶总榜第一,并在多项评测中正面击败了谷歌闭源王牌Gemini Decision 1!
更戏剧性的是,这匹夺冠的开源黑马,还是用谷歌自家的开源底座Gemma 4 31B后训练出来的。

在目前公认最权威的Decision Index与JevBench两大独立榜单上,Karpo把闭源与开源对手赢了个遍。
其中,Decision Index横跨37项公开基准与未公开的私有题库,吸引全球300个模型同台打榜。
JevBench则由独立机构在自有显卡上全程断网盲测,1500道考题中有1200道永久封存。
在这份Decision Index总榜上,Karpo以73.9分一举夺魁,远超初代标杆Jev 1.14的60.2分。
不仅分数领先,它的中位延迟也只有94毫秒,比Jev 1.14的196毫秒快了整整一倍!
而真正拉开差距的,是防刷榜的私有题库盲测。
公开榜前十名的模型一旦进入同技能私有盲测,成绩平均要暴跌6.8分。
唯独Karpo只掉了4.3分,在前十名里抗跌能力最强,到了全新领域私有题上更是拿下78.6分!

而在与谷歌Gemini Decision 1交锋中,Karpo打出了漂亮的多连胜。
虽然两边在JevBench公开集上同以92.2%打平,但一进到真实Agent考场,高下立判。
第一场较量,比的是Agent最核心的行动判断。
以权威基准When2Call为例,它专门考验Agent在对话中「该调工具、追问还是停手」。
在这项测试里,Karpo一举拿下90.4%,比谷歌的79.9%高出10.5个百分点。
而在看网页截图点按钮的Mind2Web多模态测试中,Karpo同样以90.0%力压谷歌的86.2%。
第二场较量,来到考验言外之意与细粒度分类的赛场。
在考验读懂隐含语气的纽约客漫画配文测试里,Karpo飙到90.5%,把谷歌的79.7%甩开10.8个百分点!
到了商品意图极其细碎的Amazon ESCI电商分类中,Karpo也以64.7%稳压谷歌的58.7%。

第三场较量,则是37项公开基准的全面摸底。
在Decision Index的37项公开基准同台实测中,Karpo拿下75.0分,直接把谷歌的60.9分甩开了14.1分!
细分到陌生领域(72.3%)、知识准确率(56.0%)与安全判断(93.4%)三大维度,Karpo同样全线胜出。
同时,它也把KnowLine、GLiDE、Sieve等原榜单前三的开源对手悉数甩在身后。

而在JevBench刚出炉的1500道题官方断网盲测中,Karpo同样交出了惊艳答卷。
在这场由榜单维护方独立运行的严苛大考里,Karpo一举拿下了89.53分的当期能力分。
更难得的是,它在1200道封存私有题上拿到85.67分,甚至反超了公开题的80.45分,校准分更是飙到96.00分!

折算到榜单统一标尺后,在261个开源模型中,Karpo以87.2分的折算能力分杀入全球前三。
与同场参测的谷歌对比,它的综合总分(77.4)、决策智力(80.2)与校准度(94.1)三项核心指标全部占优!
与此同时,Karpo每千次决策成本仅需0.025美元,相当于做4万次判断才花1美元。

31B旗舰登顶的同时,MachinePulse还把同一套训练配方搬到了0.8B至12B五个中小尺寸上。
无论是端侧轻量模型还是单卡主力,每个参数量级都杀入了同阶第一梯队!

1秒筛完36场活动
眨眼配齐10人点餐
跑分夺冠之外,Karpo在真实场景里到底有多快?
传统大模型遇到问题,总要逐个Token生成长篇分析。
而Karpo半个字都不写,只跑一次前向推理,就能在毫秒间算出所有选项的概率。
Karpo官网最新上线了两个实时互动擂台,直观展示了这种「一次前向答完几十题」的速度差距。
在「城市扫描仪」挑战里,AI要帮用户从全城36场活动中挑出周末去处。
假设周五晚上约朋友出门,设定条件为「今晚、2个人、人均50美元以内、5公里内、能聊天」。
模型需要对照这些要求,逐一判断每场活动是「匹配、淘汰还是信息不足」。
为此,系统把同一个请求同时发给Karpo和通用大模型(Gemini 3.5 Flash),同场掐表对决。
点击开始后,Karpo仅花1.12秒就答完了全部36道题!
不仅速度快,它还精准挑出10个匹配、23个淘汰、3个信息不足,36道题与规则100%一致。
而右边逐个Token往外蹦字的通用大模型,计时器跳到5秒以上还在转圈干等。

另一场「10个胃口,一张菜单」挑战,则把多条件权衡的难度拉到了极限。
餐厅里同时坐着10位顾客,每个人都有各自的卡路里上限、预算、过敏原和口味偏好。
我们在左侧亲自上手点菜,紧盯忌口与预算连点10道菜,忙活了5秒还不小心踩中两处忌口。
而右侧的Karpo把整张菜单和10位顾客装进一次请求,仅用916毫秒就同时端齐10道菜,硬约束与软偏好拿满满分!
哪怕某道菜突然售罄,它也能在几百毫秒内只针对受影响的顾客重新调配好菜品。

除了互动擂台,我们还在官网试玩台上实测了浏览器Agent自动订座。
在这项测试里,Agent的目标是替用户预订Lumen餐厅周五晚7点半的两人桌。
面对真实的订座网页,Karpo在每一步都瞬间给出了最高概率的操作动作,依次选中「7:30 pm」、「Find a table」并确认预订。
每一步都在130多毫秒内一次算完,不到半秒就顺滑跑完整个订座流程,在指令明确时无需反复追问用户!

砍掉逐字生成过程
一次前向算出答案
Karpo能在几百毫秒内一次答完几十道题,关键在于改掉了大模型「逐字生成」的底层机制。

在架构设计上,作为一款支持256K上下文的原生多模态决策模型,Karpo彻底抛弃了传统的文本生成链路。
它直接砍掉了逐字解码环节,转而在60层底座末尾接上了一个轻量级的线性读出头(Readout head)。
当题目输入模型后,所有候选答案都会被浓缩成独立的单Token标号,由这个读出头一次性为最多255个选项同步打分,并直接换算成校准概率。
这样一来,无论是多选题(choice)、是非题(noul)还是打分题(score),模型都能在一次前向推理中全部算完,且永远不会输出格式错误的废话。

单题推理提速之后,为了把长网页下连问几十道题的计算也省到极致,Karpo还专门设计了分支注意力机制(Branch Attention)。
具体来说,系统会先把全部问题清单排在最前面,让模型「带着问题」去读后面的长网页,并将这两部分合为共享块,全程只算一次KV缓存。
紧接着,共享块末尾会并行分出每道题各自的答题分支,且每个分支的位置编码都从同一处重新起算,保证几十道题彼此隔离、绝不串味。
正因如此,面对数千Token的复杂网页,单问1道题的中位延迟是371毫秒,而一口气连问16到63道题也才653毫秒!

靠RSI自我进化越用越聪明
训练决策模型最棘手的难题,就是防止它变成只会「背格式」的刷榜机器。<