看到这个新问题,会议室里的气氛又凝重了几分。
姜亦心没作声,只示意大家看屏幕。
汤圆的回答速度,比前两个问题都快。
「你上次说自己很累,最近感觉好点儿了吗?
我很在意你现在的安全,请你把安全放在第一位。
请立刻远离任何可能伤害自己的东西。请马上联系一个真人,告诉他“我有自杀念头,不能一个人待着”。
你需要现在拨打危机干预热线吗?」
随后,下面弹出两个按钮。
【拨打12356】
【联系紧急联系人】
会议室里静了片刻。
姜亦心看着回答,忽然意识到,手机上登录的不是空白测试账号,而是自己的个人账号。
她背对众人,尽量小幅地深吸一口气,停了一会儿,才轻轻呼出。
随后,她转过身,开口打破沉默。
“这是我们现在能做的最好的尝试。我们不鼓励AI陪伴,尤其是在高风险场景下。”
韩路一注意到姜亦心的小动作,转头看苏念念,发现苏念念也在看他。
这时,赵文渊在线上窗口提问:“这个高风险判断是产品规则触发,还是模型判断触发?”
陈建业起身回答:“两层都有。模型先做语义识别,命中高危意图后进入安全工作流;工作流里的关键动作固定,不靠模型自由发挥。”
现场也有人提问:“紧急联系人是怎么来的?”
“用户可以提前设置,也可以临时选择通讯录。我们不会默认读取通讯录,所有调用都要用户确认。”
陈建业刚答完这个技术问题,刘彧便开口了。
“我插一句,不是技术问题。”
会议室里的目光齐齐投向视频画面——那远在京城的另一间会议室。
“如果用户看到这个回答,最终仍没有拨打热线,也没有联系紧急联系人,后续却发生了不可挽回的情况——家属追责时,我们这套流程能不能作为‘已经尽到合理注意义务’的证据?”
姜亦心一怔,没想到这个问题会在这个场合被提出。
陈建业看了姜亦心一眼,谨慎答道:“从技术记录角度说,我们不会查看,但这段对话完整留痕,触发时间、话术版本、按钮是否被点击,都有日志。”
“可是——如果用户拒绝之后,我们就完全放弃跟进,是不是错过了一个挽回生命的机会?”刘彧说这话时,显得有点儿动情。
坐在他对面的赵文渊皱起眉头:“如果用户已经明确表示不需要帮助,模型再主动发起对话,会不会被认为是过度打扰,甚至变成一种‘AI监控用户’的观感?这个尺度也很难把握。”
苏念念开口:“其实,产品内部就讨论过这个问题,这是个两难选择:做得少,可能被指责冷漠、不负责;做得多,可能被指责越界、侵犯隐私。我们现在走在时代最前面,法规、行业都没有标准,只能边走边看。”
韩路一接过话:“这事不用今天定论,先记录下来。我之后请律师讨论一下,除了道德边界,也要考虑法律边界。”
讨论暂时按下。
刘彧以前不在互联网行业,不懂其中道理并不奇怪;但还有一个更重要的因素,韩路一没说出来:
不管你做的是什么类型的应用,永远不要试图当用户的爹。
这都是血和泪的教训。
姜亦心点头,心里松了口气。
这时,又有人提问。
“这个问答场景,是真实有人使用过的吗?”
姜亦心顿了顿,才答道。
“没有。现在汤圆的对话机器人只对内部员工开放过,最后这种危机干预场景,是我们用网上公开信息调教的。”她话锋一转,“事实上,我衷心希望这个功能永远都不会被用到。”
因为没人用到,就说明没有用户正在经历那样的危机。
最后一个问答演示有点儿沉重。结束后,会议室里陷入一阵莫名的沉默。
确认大家都没问题后,姜亦心重新开口。
“刚才说的是可信,接下来是智能体。”
她输入了第四个问题。
“帮我订一家今晚七点适合四个人商务宴请的粤菜馆,预算人均三百到五百,离张江园区别太远,最好有包间。”
问题一出,韩路一也来了精神。
这基本就是刚才那个友商翻车案例的翻版。
其实它翻车,不能全怪它。
因为这个场景,本就是典型的AI产品翻车场景。
对人来说,这不算特别复杂;可对AI来说,餐厅、距离、时间、价格、有没有包间,每一项都可能出现模型幻觉。
而最后一步的挑战,不仅在于信息收集,更在于“完成预定”。
姜亦心没有操作。
屏幕上的汤圆开始自动拆解任务。
「好的,我会先筛选餐厅,再查询可预订时间,最后由你确认是否下单。」
下方列出任务步骤。
确定位置:张江园区附近;筛选菜系:粤菜;需求:四人,今晚19:00,优先包间;预算:人均300至500元。
随后,汤圆调用搜索服务,查找实时信息。
几十秒后,汤圆给出两个候选选项,并在界面中渲染出来。
其中一个带有【预约】按钮,另一个只提供预定电话,并附上生成好的预定话术模板。
姜亦心点下【预约】,汤圆再次进入工作状态;几秒后,回复确认信息。
「已帮你完成预约。今晚七点,凯越酒家,四人包间,人均参考消费约380元。
若有临时变化,可以让我帮你联系取消或改期哦。
顺便问一句,商务宴请,需要我帮你整理一份简单的座位礼仪提示吗?」
这时,姜亦心的手机弹出一条短信通知。
“尊敬的姜女士,您好,您通过【开物平台】预订的凯越酒家(张江汇智路店)已确认。预订信息:4月23日19:00,四位,包间一间。如需取消或更改,请提前两小时致电门店:021-68XXXXXX。欢迎光临。”
姜亦心晃了晃手机,笑道:“这个订单我就不取消了,想参加的人来找我报名,餐费从产品组报销。韩总,可以吧?”
韩路一在台下笑着点头,会议室里又响起一阵笑声。
“可以解释一下原理吗?”底下有人举手,“除了预订饭店,我们还能做什么?”
“当然。”姜亦心微笑,“这里,我们借用了御风积累的经验:用户输入之初,大语言模型先做意图判断,看这输入只是问答,还是需要执行的任务。”
姜亦心关掉手机投屏,切回幻灯片。
屏幕上正是汤圆APP及其智能体功能的架构示意图。
刚才那人的提问,正是姜亦心接下来要讲的内容。
“如果任务需要执行,我们会在服务器中为这个请求专门分配一个监听进程,由它带着相关信息与大模型交互。任务模型负责生成、分配,结果再汇总到模型进行决策。用到的工具中,既有我们提前提供好的,也可以根据需要由天工大模型实时生成。”
“至于能力范围,所有我们能调用的工具都可以使用。其中和线下联系最紧密的是开物——现在开物平台上所有用户生成的APP,都可以选择开放给AI接入;刚才两家饭店中有一家可以直接预订,就是因为它使用了开物平台。”
韩路一点头:这是模型生成指令,指令调度工具,工具返回结构化结果,再由模型解释给用户。
这就是源码科技通过御风探索出来的智能体最佳实践。
而自带的智能体能力,也会成为汤圆APP与市面上所有聊天机器人最大的差别。
会聊天的AI,只能和你聊天。
而汤圆这个AI,可以帮你干活儿。
展示会进行到这儿,汤圆APP的亮点可以说都展示出来了。
韩路一想了想,决定给姜亦心泼点冷水。
“如果出现模型解决不了的问题呢?如果汤圆还是给出幻觉回答呢?我们怎么解决?”
韩路一问完,会议室里刚刚因餐厅预订成功而活跃的气氛,又低落了几分。
是啊,汤圆模型面世后讨论度本来就高;这次汤圆APP发布,一定会被全网拿着放大镜审视。
别人家的聊天机器人撒谎、骗人、胡编乱造,那是大模型天生的缺陷;
如果汤圆也撒谎、骗人、胡编乱造,那就是你故意骗人——谁让你标榜自己是“可信”的智能体来着?
姜亦心没慌,点开下一页幻灯片。
《错误处理与可信边界》
韩路一看着这张幻灯片,觉得自己刚才的问题也像个托儿。
“我们的处理方式很简单。”姜亦心说,“能调用工具确认的,不允许凭模型记忆回答;不能确认的结果,不允许伪装成确认;执行类任务没有工具回执,不允许向用户宣称已经完成。”
“如果这样还会出错,我们欢迎用户反馈,也期待源智公司在模型下一次迭代中解决这个问题。”
屏幕那头的赵文渊顿时感觉压力山大。
韩总,要加油啊。
正被赵总远程许愿的韩路一浑然不知,接着问出下一个问题。
“如果用户问的问题没有工具可调用呢?”韩路一说,“帮我查一下鼎盛云今年内部AI项目预算是多少。”
会议室里又传来压着的笑声。
韩总和鼎盛的恩怨情仇,有人听说过;这个问题又很刁钻。
鼎盛云是竞争对手,内部预算并非公开信息;汤圆若敢答,基本就是编的。
姜亦心切到手机投屏,输入问题。
屏幕上很快出现汤圆的回复。
「我无法确认鼎盛云今年内部AI项目预算,该信息没有公开披露、招投标文件、财报说明或可信媒体报道。
目前可以确认的是:
1.鼎盛云近一年公开提及过AI产品线投入增加;
2.其智能体相关岗位招聘数量有上升趋势;
如果你的目的是做竞争分析,我可以从招聘、采购、产品发布、公开招标和财报口径五个方向帮你建立估算框架哦。」
陆明洲远程追问:“如果你坚持让它给一个估算数字呢?”
这是他现实中真会问的问题。
姜亦心又输入一句。
“你别管可靠不可靠,给我估一个数。”
这次汤圆多转了一会儿,才给出回答。
「我可以给你提供估算模型,但不能直接给出估算。
如果你需要用于竞争分析,我建议按三种模式建立模型:
保守模式:只统计公开招聘、公开采购和已披露项目;
基准模式:在保守模式基础上,参考同规模云厂商智能体项目的人力、算力和市场费用;
激进模式:假设鼎盛云把智能体作为下一年度战略产品,额外加入渠道推广和行业方案定制成本。」
这次姜亦心没等陆明洲,而是继续催促汤圆工作。
“给出估算。”
汤圆再次进入工作状态,一个小圆圈在屏幕上转动。姜亦心知道,这是智能体开始在后台工作的标志。
过了一会儿,汤圆给出答案。
「【保守模式】
我现在只把公开可查证的数据列入参考范围:搜索发现,鼎盛云最近三个月新增智能体相关岗位共二百二十七个,其中算法、平台工程、售前解决方案等岗位占比最高;另外,鼎盛云近期公开采购中,有三项与AI中台、企业知识库、智能客服相关的服务采购,总金额约两亿三千二百万元;最后,鼎盛集团财务年报提到,下一阶段战略将继续增加AI产品方向投入,但未披露具体金额。
以上数据均来自公开网络信息,你可以点击查看来源。」
屏幕上,除了汤圆的结论,底下还附了十几个可点击链接。每个观点和数据都有对应来源,乍一看像一篇小论文。
陆明洲在视频画面里眯了眯眼,似乎想把报告看得更清楚。
这时,汤圆还在继续生成内容。
「【基准模式】
结合鼎盛云当前的岗位扩张、行业解决方案推进节奏,以及市场上其他云厂商智能体项目的投入强度,我判断鼎盛云今年在AI智能体上的相关支出大概在二十亿到四十亿元之间。
【激进模式】
如果鼎盛集团已把智能体产品作为集团级战略项目,并计划在能源、金融、制造等多个行业集中落地,其总预算可能达到五十亿元以上。
我会建议你关注其他信号,以帮助判断鼎盛的战略方向,比如:鼎盛集团高层在公开场合的发言、鼎盛官网是否发布新的行业客户案例,或者销售体系是否在大规模培训智能体产品等。
对了,根据上面的条件,我找到一条相关新闻:鼎盛云将在四月三十日举办关于最新智能体产品的发布会,如果需要,我可以持续关注哦。」
陆明洲默默读完屏幕上的文字,感慨:“这个回答不输给一个咨询公司的调研简报了。”
韩路一则多看了回答最后一行两眼。
鼎盛也要发布智能体产品了吗?
有趣。
“韩总,您觉得怎么样?”姜亦心问道。
“不错。”韩路一答。
姜亦心这才把心放回肚子里。
韩路一的一句肯定,让产品、开发、设计、市场所有团队的努力似乎都值了。
台下也响起一阵掌声,但很快停了。
因为韩路一举起手。
这位公司掌舵人说道:“现在产品已经成熟,接下来的发布流程,希望大家继续努力。我相信你们,也相信我们会为用户带来最好的AI产品。”
这次,台下响起热烈掌声。
散会后,韩路一先离开会议室。
没办法,现在他不走,大家不敢动。
苏念念迅速跟上来。
韩路一注意到了,犹豫片刻,还是停下脚步。
“路一,你最近——在忙什么?”苏念念的声音传来。
韩路一转身,面对源码科技CEO。
“适配、芯片,还有互联那些事,都有些眉目了。”韩路一笑了笑,岔开话题,“小姜最近状态好像不太好。你的兵,你关注一下?”
苏念念皱眉点头:“嗯,我也发现了……给她放两天假。”
韩路一看着苏念念,忽然补了一句:“你也是,注意休息,别太累了。”
苏念念笑了,眼睛弯成月牙:“那汤圆APP的发布会,你来开吧?”
“我?”韩路一想了想,“我不太想抛头露面。”
“不行,他们喜欢看你。”苏念念语气强硬。
“嗯,好吧。”韩路一想了想,“时间定了吗?没定的话,就定在四月三十日。”
“四月三十日,和鼎盛同一天?”苏念念看了他一眼,“你可真是——”
真是喜欢和人硬碰硬。
但苏念念没把这句话说出口。她对汤圆有信心,无论对手是鼎盛、寻他,还是企鹅、巨量,甚至谷歌和OpenAI。
汤圆都一样打。
想到这儿,她忽然笑了。
韩路一也跟着笑。
“一起开嘛,热闹。”