字: 大 中 小
关灯 护眼
渡口文学 > 首富从看见信息面板开始 > 第四百二十章 驾驭工程

第四百二十章 驾驭工程

    周三下午,起源集团总部,产品副总裁办公室。

    刚吃完午饭回来的姜亦心给刘昊宇发微信。

    【小姜(想吃火锅版)】:你猜今天晚上吃什么?

    【大刘(领主)】:对不住了,我的士兵,今天不能带你去吃火锅了,我下班之后还得回家玩骑砍。

    【小姜(想吃火锅版)】:???

    气鼓鼓地把手机锁屏,姜亦心想了想自己一个人去吃海底捞、对面还要被放一个玩具熊的尴尬样子。

    算了算了,还是回家吃外卖吧。

    摸鱼结束的姜总开始沉迷工作,她还得看鼎盛那边同步过来的调用数据。

    这也是双方商谈定下的结果。鼎盛和起源虽然合作的地方越来越多,基础却实在算不上牢靠。商业谈判时,姜亦心坚持要求鼎盛部署的汤圆0.9向起源服务器实时同步调用量数据,防的就是鼎盛在调用量上造假。

    调用费用虽按月结算,调用量却能实时看到。

    从周一上午汤圆0.9上线鼎盛云模型商店算起,到现在满打满算两天多,部署在鼎盛的汤圆0.9的API调用总量已超过起源官方API的调用量。

    看到这组数据,姜亦心简直叹为观止。难怪鼎盛急匆匆上架汤圆模型——他们哪来这么多用户,愿意花比满血旗舰还贵的价格,从鼎盛渠道订阅汤圆0.9?

    这个问题当然能去问苏总,可姜亦心最近在刻意锻炼独立思考的能力。

    她打开电脑新建文档,先把自己的思考过程扔进去。

    先说汤圆1.0火不火?火!已经火到“一词元难求”的地步,整个AI圈讨论最多的就是汤圆。

    可起源自家算力有限,又不愿把汤圆1.0部署到别家平台:想买的人买不到,用御风开发的速度倒是大大加快。

    AI叙事如今已不是可有可无的故事。只要是科技企业,还没宣布拥抱AI,大家只会觉得你已经落伍。

    急着拥抱AI的企业纷纷快速做出原型,把大模型以对话模式接入自家服务;可能自研模型的毕竟是少数,大多数人只能调用别家API,汤圆0.9便是其中能买到的最有性价比的选择。

    再加上鼎盛云服务生态完善,权限管理都已内置,已经选择鼎盛的企业接入并不复杂;鼎盛又在云市场积累多年,算力比起源富裕得多,基本能满足采购企业的用量需求。

    这才造成一个奇怪现象:鼎盛卖的0.9反而比起源卖的1.0还多。

    姜亦心坐在原地皱了皱眉,又想到一个对企业而言鼎盛有而起源没有的优点:企业自身可能增长的算力需求。

    起源算力吃紧大家都知道,想买到基本看运气。若企业发现用量特别大、还会快速增长,起源却供应不上,怎么办?

    反过来,鼎盛供应稳定;价格虽贵、版本虽旧,对很多企业来说,稳定供给就是更值钱,他们愿意为此支付溢价。

    从鼎盛角度看,卖汤圆虽也赚钱,却得分给起源,肯定不如卖坤元划算。于是他们特意把汤圆价格定高一点、坤元价格定低一点,鼓励人们用坤元。

    奈何汤圆如今在AI圈的名声太权威,既然能买到汤圆,大家还是愿意买汤圆。

    简单说,起源有模型缺算力,鼎盛有算力、有模型,可模型没有汤圆那么有吸引力;综合下来,对很多企业而言,部署在鼎盛云上的汤圆0.9才是最佳选择。

    姜亦心看了看写得密密麻麻的文档,觉得思路清晰多了。

    所以,起源下一步发展的关键仍是继续扩充算力。硬件那边已有江松然负责,可从产品角度,有什么事是她能做的?

    她仔细想了想:眼下御风、汤圆Chat和汤圆API用的是同一个算力池。如果第一方的这两个应用能省出算力,是不是就意味着API那边能有更多额度可销售?

    当然,不能为了省算力就给起源这两个王牌产品降智;真这么干,导致口碑暴跌、用户信任流失,那才是舍本逐末。

    以用户体验为先的道理,产品副总裁姜亦心还是懂的。

    可做了这么久AI产品经理,姜亦心也积累了不少方法论。其中很重要的一条是:模型产出质量并不总与消耗的算力正相关。

    同一个模型、同一个要解决的问题,用两种不同方式调用,确实可能有一种消耗算力更少,结果还更好——鱼和熊掌可以兼得。

    继续优化这两个产品的系统约束,是不是就能往这个方向提升?

    这才是真正的降本增效吧?姜亦心高兴地想。

    随即,她赶紧把刚才的想法整理成文档,准备作为下一阶段的项目目标。

    “所以我们接下来的目标是继续优化智能体的——”

    写着写着,写到这一句,姜亦心突然卡住了。

    随即她想到一个问题:这种脱离模型能力之外、对智能体表现至关重要的部分,似乎还没有名字。

    该怎么称呼它才好呢?

    这其实很重要:没有简洁的名字,人们就无法讨论一个具体事物。比如智能体刚诞生时,还没有“智能体”这个概念,要形容它,只能说:这是一种能自主感知环境、进行推理规划、调用外部工具并生成最终结果的人工智能自动化工具。

    给符合这些条件的工具命名为智能体,大大降低了讨论它所需的沟通成本。

    姜亦心刚想出的这个概念,其实基于智能体大规模应用的延伸。你也是智能体,我也是智能体,为什么起源集团做出的智能体,无论在算力利用效率上,还是在任务执行结果上,都比其他公司的智能体效果更好?

    就因为这种模型能力之外的约束条件做得更好。

    姜亦心回想起AI工具发展的这几年,这种对模型能力的综合约束,应该算一种工程能力吧?

    那该给它取个什么名字?

    提示词工程?不对。它比单纯的提示词管理复杂多了:不只是给模型的提示词,还包括模型应返回的数据格式、工具本身对返回数据的处理方式,甚至什么时候该主动压缩上下文。

    同理,叫上下文工程也没法体现全部工作。

    对取名不太自信的姜亦心左思右想,忽然想到大刘最近沉迷的那个游戏——《骑马与砍杀》。

    如果把具有推理思考能力的大模型比作能日行千里的千里马,把使用模型的人比作乘骑千里马的骑士——

    那么,这种给模型提供方向、进行约束的能力,是不是就可以叫作“驾驭工程”?

    驾驭工程。

    英文名就叫Harness Engineering。

    就这么定了!
『加入书签,方便阅读』