硅谷AI战场正在从C端回到B端,由此催生了FDE(前沿部署工程师)这一新工种。OpenAI率先成立专门的部署公司;Anthropic拉来黑石与高盛,合资15亿美元押注企业级AI部署;微软新设Microsoft Frontier Company,投入25亿美元、调配6000名工程师,宣称已超越FDE的概念范畴;亚马逊亦投入数十亿美元跟进。硅谷巨头正以前所未有的力度,将最顶尖的人才与算力推进企业内部。


硅谷的逻辑是,AI要进企业,就要开行业最高的薪资,派一批最聪明的人驻扎进去。但这件事在中国,还是同一个剧本吗?


本期硅谷101播客,我们邀请到阿里巴巴集团副总裁、瓴羊CEO朋新宇。他是阿里数据中台方法论的创立者,他的团队做这件事已经5年,比“FDE”这个词流行起来还要早。在AI浪潮到来之后,他们发布企业级Agent平台:AgentOne。他们的做法很不“硅谷”,不接定制化的大单,不做1000人天的驻场开发。他们找的是企业里最耗人、最耗钱、最耗时的环节,把预设好的agent接入企业私有数据,去解决真实的业务难题。举例来说:一个催发货流程,客服agent需要跑通260步流程;一个顶级人类投手,90天内调价10000次,AI要学会这10000次调价背后的决策逻辑,这背后靠的是团队配合和工程化的推进。


在朋新宇讲述中,没有全能型的个人英雄,也没有对SOTA模型的迷信。“企业算得过来账,背后用什么token,老板不会在乎”。务实,算账,打地基,这就是FDE在中国的故事。


以下是这次对话内容的精选:


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


泓君:我知道你也是阿里数据中台方法论的创立者,要不要跟我们简单介绍一下自己,以及瓴羊是一家什么样的公司?你们现在具体在做些什么?


朋新宇:用一句话来说,我们在企业服务的范畴里,做的是企业级增长的Agent,核心是帮助企业做消费流通。


泓君:过去硅谷讲的都是C端的故事。大模型这一轮刚开始,大家都在说,谁的产品先冲上App Store第一名,谁的日活先破亿。但从今年上半年开始,我觉得整个硅谷的风向变了,整个AI的战场正在从C端回到B端,OpenAI的FDE在旧金山的中级岗位基础工资是16万到28万美元,与传统的解决方案工程师相比,这个职位大概高出60%。你们有没有FDE的职位?你觉得这个岗位需要什么不一样的能力?为什么它会比市场传统的驻场运维价格高出这么多?


朋新宇:背后的本质还是这类人才的稀缺。今天我们看到的,做得好的FDE,具有三个能力。第一是要有AI的锐度,第二是要有行业的深度,第三是要有数据的宽度。FDE关注的不光是这套系统是不是在正常运行,而是这套系统是不是按照业务目标,在往好的方向走,好的地方怎么让它更好,差的地方怎么干预。FDE要能做到对业务的理解、对数据的理解,能做一些不管是技能的调整,数据和语料上下文的调整,包括一些memory的管理。这些工作是原来做传统交付不存在的,或者不会遇到的问题,所以这是最大的差别。


泓君:你觉得现在瓴羊在跟客户接触的时候,当我们提到FDE,它跟传统说的驻场开发、驻场运维,本质区别在哪里?


朋新宇:本质的变化是,原来交付功能,现在变成交付业务效果。如果从AI这个大的语境下,我会拆三个方向:


第一,以业务结果为导向。要找到对的问题,这个问题一定是有业务目标、业务数字和业务过往历史记录的,用AI的视角来讲,它能构建一个测评集,构建一个指标体系。


第二,以企业数据为基座。如何构建企业数据,通过Agent调用大模型的能力,既能保护隐私,又能发挥大模型最大的智能上限。


第三,以岗位标杆为预设。为什么我们会去定义首席客服的Agent、最佳投手的Agent、最佳销冠的Agent?其实是把这些岗位标杆作为Agent的预设,起步可能就是一个工作5年、10年的投手或者客服。


硅谷给这个岗位叫FDE,我们有一个很传统的词,叫CSM,客户成功。我们希望客户成功最终是对业务的结果好一点、更好一点,我们叫better and better。


泓君:所以我理解,这一轮在说到FDE跟企业级部署的时候,跟之前几轮的根本区别就是,它是有结果的,结果能验证。不管是成本削减,效率提升,还是新业务拓展,都是以结果为导向的变化,对企业确实有帮助。


朋新宇:对,而且是以结构上可度量的业务增长结果为导向。企业侧和个人侧最大的不一样是,企业侧用AI是希望找到重复的工作,用最高性价比和最高效率去解决它。个人可能是找到AI的上限,突破自己的边界,但企业很多是要去约束边界。


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


泓君:能不能举个例子?


朋新宇:ToC需要“新奇特”,就是让人眼前一亮的个人体验。对于企业侧来讲,要的是“多快好省”。举个例子,我们帮助一些客户,其中有做3C数码的,其中一个环节叫催发货。它有三类不同的处理方式。第一种,我买了两台空调,你只发了一台,客户打电话来催,流程就是核查订单、查库房、派单发货。第二种是催配件,空调忘了发一个配件,原来的客服流程要找到配件仓库,再发出去。第三种是催赠品,买了一台空调,确实收到了,但你当初说送一个电饭煲,为什么没送到?就这么一个催发货的环节,客服售后大概有260多步。


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


图片来源:unsplash CHUTTERSNAP 


泓君:260多步,这么多?我理解难就难在要跟内部流程沟通。


朋新宇:对,流程有的是内部系统,有的是外部系统,比如电商在多个平台,有京东有天猫等等。这200多步背后,AI能覆盖95%以上的情况。这95%,可以通过我们销售Agent、客服Agent,以及和AgentOne的结合来做。


昨天正好和同事复盘一些案例,其中一家目标是要超越他现有的传统机器人。我们发现,上线一开始就比传统机器人效果好,目前已经逼近人类最好状态的平均水平。所以能看到这样的工作在企业侧是普遍存在的,它有边界,同时有巨量的重复在发生。


我们把这些情况在企业侧归成三类场景:第一类,哪里耗人最多?比如打电话、接电话、投诉。第二类,哪里耗钱最多?有些是赔款止损,有些是营销投放,有些是素材试验。第三类,哪里耗时最多?比如打电话给客户说“我为什么没到”,一般查了半天没查到,说晚点回电,以小时或天为单位,超过一个小时客户肯定就退单了。


不是说所有场景都能用业务结果为导向做到,一定是这个业务结果非常具体、可以度量,在耗钱最多、耗时最多、耗人最多的地方。


泓君:那我们刚提到的催发货场景,假设一个标准的电商企业,需要雇佣多少个AI员工?


朋新宇:这根据业务体量来,比如销售金额的两到三个点、三到五个点,各个企业不一样,几个点是给客服的成本。今天用AI一定是在同样的成本之下,做到原来同样效果之上的业务结果,才能说这个事情是work的。


泓君:这些Agent是所有企业都通用吗?大家在具体应用的时候,是所有企业都用得很好吗?会不会有一些企业内部数据本来就不全,上手比较困难。


朋新宇:这就是为什么FDE“以企业数据治理为基座”很关键。比如雇佣一个工作5~10年的员工,进来以后企业的基础信息、知识库都是乱的,这个人进去也傻眼。所以雇佣这个员工,对大企业来说,他有私有的上下文、各种知识库都很重要。我们的FDE在这里工作,就是帮他梳理和治理企业数据,如何让data for Agent。


我们在帮一家企业,它在多个电商平台做投流,发现投手之间天壤之别。我们进去复盘过往三个月的投放行为,最好的一个投手在三个月里做了超过1万次价格调整;一般的投手大概三个月做了100多次。这个差异如果靠人去学,靠老师傅带新徒弟,很难学到。这就适合AI的Harness工程去做自我学习和进化。


这件事可以理解为工作的几个基本元素:第一是学习,就是数据采集;第二是建模;第三是执行;第四是迭代。


只是第一件事,很多企业觉得自己有经验,但经验总有局限性。如果把你过往3个月所有的行为做一个数字化的度量和学习,基于这些数据,AI一定比人更能对行为做全面深刻的总结和提炼。所以我们把这些东西变成Agent数字员工的技能之一,让它未来能每天用新的对话、处理的异常信息、好案例、坏案例……去做进化,形成它的工作模式。


我们在企业侧发现,每一家工作的细节是不通用的,但这样的环境是通用的,这个环境正好对应我们这套AgentOne能够从数据收集到模型建模、skill梳理、工作建模、任务执行推进,最后做到进化迭代,这部分是通用的。


泓君:所以AI其实是在向人类最优秀的投手学习。 我理解现在市场上要投的就是几个大的平台,那这一类Agent产品,是不是一个比较标准化的产品?


朋新宇:对,这几大电商平台已经形成最大公约数了,下面的素材、价格、系统、数据已经标准化了,这部分占企业做投手80%的数据准备和系统学习的能力。


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


泓君:企业现在用Agent到了哪个环节?是已经到了可以验证交付结果的环节,还是刚刚开始?


朋新宇:从我们服务和接触的客户来讲,我觉得是有结构性差异的。走得比较先的,是数字化基础比较好的,比如原来在电商、互联网积累比较好的。还有一类是大的企业,本身内部IT、信息化做得比较好的。


我们现在看到在投手或客服方面,不少企业已经在用了。大部分企业真正做出效果不会去讲的,企业侧只要效果持续在用,那就是好的,最终用结果来买单。


泓君:你们今年去谈客户的时候,要让他们把自己的一部分系统放在Agent上,是从上往下推动,还是从执行层自下而上跑起来?今年企业对Agent改造业务流程是什么态度?


朋新宇:这是个好问题。两者都有,但目前我们看到进展顺利的是自上而下的。涉及一个生产关系的问题。自上而下是这个业务的一号位,他能同时调配IT和业务两笔费用,才能去算总账。我们遇到有的企业是比较传统的企业或制造业,一号位董事长非常明确,今天必须拥抱AI、用好AI。自上而下以后,他的财务、IT、销售线都动起来,生产关系重新发生变化以后,销售Agent从一个区域复制到全国的区域,形成一个快速推动的局面。


如果自下而上,我们遇到反向的例子:某个业务部门想做业务的Agent,但他今年没有预算,而他的IT团队有预算,但IT团队和业务之间是不同的部门,在这个过程中发现需要通过业务方案去设计,既要满足IT的先进性,又要满足业务的效果,这个生产关系蛮难弄的。


泓君:企业在推动这部分业务的时候,因为会涉及很多企业内部的数据,各个流程、各个部门的数据,还有方法论都要拿出来做成一个Agent。企业在跟你们负责前沿部署的人沟通的时候,这会是他们有顾虑的一部分吗?


朋新宇:这也是我们的优势。原来四五年的时间,我们帮助了大几百家到上千家中大型的客户部署了数据平台,已经帮他们做了数据治理和打通。基于这平台之上去找业务,今天就是水到渠成的事情。


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


图片来源:unsplash Stephen Dawson


泓君:我理解您提到的大客户是之前跟阿里已有商务合作的客户,您又是做数据中台的,所以沉淀了很多数据。那如果大家跟你们一起合作一个这样的Agent,商业模式是什么?


朋新宇:商业模式来讲,基本两大类,一种是按坐席收费,就是工作量。比如客服,原来是500人,要接管他一年的生意服务,今天用同样500人的价格,比如有个8折、9折的投入,做到原来一样的效果,这就是按照成本、人力成本降低的转化逻辑。第二种比如做营销、做投手这些增长,原来转化率比如20%,做到原来人工转化率之上的部分我做分成。


泓君:现在按效果付费的已经真实发生了,有达成效果的吗?


朋新宇:肯定有,而且是连续续费的客户。原来我们有个词叫POC(概念验证)今天叫MVP(最小可行产品),不需要做概念验证了,因为今天是一个AI员工在这里,上来就能体验、能使用了。最终要基于他家的业务单元、数据单元,能做一个最小价值验证,客户验收通过,用着OK,那就继续用,这种才是比较有互信和持续粘性的服务方式。


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


泓君:最终数据是在企业端还是在阿里端,还是共有?


朋新宇:这个问题背后是技术模式,这里可能讲三个词:定制化,标准化,个性化。原来大部分企业希望用定制化的方式去满足企业标准化的流程,可能每个企业都说,我的工作流程和别人不一样,要去做定制,把他内部非常顺的流程刻画下来。这样的标准化,问题就在于企业对业务流程的理解总结到不到位。如果到位,确实有效;如果不到位,可能解决30%的问题,之后每天会有70%、60%的新的增量,就会变成耗时的系统交付工程。


今天的这些Harness工程,能够把原来企业的工作流、数据流、企业的上下文,把这些工作区间标准化下来。同时因为有了自主进化,面向不同客户回答问题的过程中,它能做到个性化。对于AI领域来讲,未来更多的是用标准化的方式去解决个性化的问题,因为定制化本身就很难做个性化。


泓君:我理解当我们在说标准化的时候,比如给企业一个标准化的产品,你只用采购我这个Agent的席位就可以了。但定制化就是说,企业可能有特别的业务需求,我需要再跟你的数据打通,它能回答更多个性化的问题。这些都能用标准化的手段去解决吗?


朋新宇:如何分辨它是定制的还是可以被标准化的?定制就是你去问企业里每个人,他的流程可能都不一样,最终需要做内部叫企业流程培训,完了以后这套系统才能上。今天的分支点是,你把现在企业真实在工作的这些人的行为,通过数据最终帮他表达:你这个企业最好的销冠是怎么工作的?最好的投手是怎么工作的?这个工作是不是你希望复制到所有人的?如果这是一个参照系的话,跟原来离散的、似是而非的标准相比,这是本质差异。


泓君:那你们会给企业做一些定制或企业专有的软件吗?


朋新宇:我们现在已经很少做企业专有的软件,还是聚焦围绕企业里面增长的问题,增长的问题最终一定是用数据能度量的。当然我们也遇到一些客户说希望明年买我们1000个人天(Man-Day)的投入,其实这种方式在企业侧也要发生变化,未来买这种人天的方式、定制的方式会越来越少。


比如开发一个功能要100天,他估算大概有10个系统或100个功能,自己算下来差不多要1000个人天的时间才能开发完成。这个开发对我们来讲完全是从0到1。这类事情对客户对我们边际效率都非常低。所以我们反而是说,今天你聚焦在做销售、做客服、做营销,基于这些场景之下的问题,我们去解。


泓君:所以你们现在更倾向于做标准化的增长类Agent。这个点非常有意思,我们可以讨论一下。过去在SaaS那波很热的时候,大家想要做标准化的产品。这一波很热的公司是Palantir,大概有46%-47%的营收来自商业客户,主要是派工程师到一个一个企业里改造,就像您刚说的,从0到1把企业内部系统搭建出来,比如他要1000个人天来搭建一套系统。我理解现在像OpenAI、微软,可能也是想用这套AI工具布局到企业内部,他们做的是一个一个企业纯定制化的思路,你们反而在走一个相反的做产品的思路。


朋新宇:对,Palantir有个前提是,服务那些企业原来都是有基座的,它是去帮客户找出有价值的问题,而不是帮客户去实现他列出来的todo list的100个功能需求,这是本质差别。


我们现在在交付和服务中的客户,进到客户里面,可能和企业的CEO、业务总裁到一线人员都要做交流、做访谈,最终是和他一起先找到公司里边这个阶段在销售侧、营销侧或者业务增长侧最有价值的问题。这问题最终还是回归到这三类:销售、营销、客服的ROI增长。


一个“催发货”AI要跑通260步,和阿里瓴羊朋新宇聊聊中国式FDE


泓君:我们刚聊了客服,有没有销售的例子?我理解销售每个行业之间差别更大,比如酒的行业、媒体的行业、ToB的、ToC的,完全不一样。


朋新宇:是的。我们有一家制造业,原来有很多线下的渠道,各个省代,渠道销售人员服务各种经销商。这些人员最大的麻烦和约束是上班时长和客户时长,一天只能拜访两到三家客户,先去哪家、后去哪家,这是时间规划的问题。第二件事是我见了客户,要交流什么样的方案。第三是,和这个人沟通完以后,可能有一系列动作,要在内部业务系统录入。


原来这件事都是靠人力的,我们帮这个企业从一个省的试点开始,这个试点原来是一个最落后的销售区域。这些过程AI能在各个环节帮助,把事前、事中、事后都串起来。前面的路线规划,中间的客户见面材料准备,以及准备完以后的小结和系统录入打通,如何推给后面内部相应的其他人员跟进。原来一名销售可能每天花一半的时间做资料准备,晚上大概花两个小时做复盘和系统录入。今天对他的工作时间效率大大提高,而且最终结果就是那个省拿到了公司的销冠。


泓君:所以你们现在内部有多少个不同的Agent?


朋新宇:我们提供的Agent服务方式,简单来讲就是4+X,4个预设好的Agent加上X。四个分别是:营销、销售、客服、运营。我们这个Agent就是在这个行业里能做到5~10年工作技能的人,叫做最佳岗位实践的预设。


X是企业的数据资产和企业的上下文管理,就是雇了这样一个人进去以后,你给他什么权限?什么企业数据?什么审批权限和资金管理权限?所以这个理论上的X就是我们需要和企业一起去梳理、去治理,以及在原来企业平台之上做数据资产管理的,能让前面的Agent更好地上岗工作。