本次测试数据基于当前上线的汤圆0.9版本与新训练完成的汤圆1.0版本进行对比。
0.9已经很强了。自4月1日发布至今已近两个月,随着各家陆续发布新模型,汤圆虽不再是全榜单最强,却仍在意图理解、低幻觉率等几个方向霸榜。
在模型迭代飞快、榜单天天轮换的当下,这并不多见。
对汤圆刷榜的质疑声也越来越少。
刚训练完成的1.0与0.9最大的区别,在于加入了更多、逻辑链更长、质量更高的标注数据。
这类数据再次提升了汤圆模型的逻辑能力。
相较0.9,1.0在复杂意图理解、长程任务完成率上又有提高。
这些原本就是汤圆模型的强项。
换句话说,0.9到1.0的演进并非补齐短板,而是把原本就长的长板拉得更长。
除上述之外,汤圆相较其他海外一线模型最强之处,是中文能力。
这源于汤圆后训练中的大量标注数据以中文为主,预训练中文语料占比也高于其他模型。
不少模型虽号称支持多语言,运算和思考过程却常用英语,直到最后输出层才翻译成中文。这样的逻辑自然会导致许多中文语境中的隐藏语义缺失。
韩路一看了看测评结果,问道:“长程任务的提升有这么多?”
“我们在推理侧也用了异步新框架。”赵文渊说道。他没有展开解释,反正一会儿也要讲。
赵文渊随即打开一个长程任务示例,向韩路一展示。
这个任务的输入提示有多简单呢?
其中只有一句话:“写一个Minecraft。”
Minecraft,中文名我的世界,是一款瑞典程序员独立开发的游戏,后来以十亿美元卖给了微软。
它一度是全球销量最高的游戏,全球卖出三亿多份。
这个游戏有趣的地方在于:画面极为简陋,系统却极为复杂。
若对任何一个AI模型说“给我写一个Minecraft”,模型都能输出点儿什么。
一个能移动、能放置、能破坏的像素游戏?还行。
再加上生存系统,游戏人物有饥饿度、健康度,会掉血也会死?这就复杂了一点,汤圆0.9已能做到这种程度。
再叠加生物系统,游戏里有狼、狗、羊、猪,每个动物都有自己的特性和用途?到这一步,已基本超出一般模型能做的范畴。
至于最复杂的红石系统,以现在的模型能力还做不到——至少无法一句话做到。
这个测试任务可以分两面看:一句话的提示词既考验意图理解与信息收集能力,任务本身的复杂程度又挑战模型上下文所能承载的编程极限。
赵文渊双击桌面上的一个可执行文件。
一个游戏窗口弹了出来。
随后,赵文渊示意韩路一自己试玩一下。
韩路一操控游戏中的像素小人探索了一会儿,徒手撸了几棵树,收集了一些木材,接着撞见一个会射箭的野怪,被追着连射几箭,死了。
韩路一回头看了赵文渊一眼,问道:
“完全是用汤圆写出来的?”
“完全是用汤圆写出来的。”赵文渊答道。
“花了多长时间?”
“御风接入模型后,从昨天下午输入指令算起,大概迭代了五六个小时吧。”
一个自运行五六小时的长程任务,不跑偏,还能输出完成度这么高的产品。
而且韩路一体验下来,这个游戏Demo虽能看到Minecraft的影子,却有不少创新设计,并非完全照抄。若直接上传到游戏商城,人们最多会以为这是个独立游戏仿品,绝不会想到它由大模型一句话生成,甚至连设计方案都没有。
这意味着汤圆1.0在规划任务时能兼顾发散性与方向约束,对生产级应用意义重大。
“进化得真快啊。”体验完后,韩路一感慨了一句。
赵文渊明白他的意思。
模型进化得太快了。
曾经人们认为AI大模型只能做简单的事,可随着模型不断迭代,它正吃掉越来越多更难的任务。
不同模型的能力差别,有时并不在于多生成几轮或少生成几轮、多花些词元或少花些词元。
这中间隔着做得到与做不到的鸿沟。
韩路一不太确定,汤圆1.0现在能做到的事,究竟有多少模型能做到。
不过,等新加坡人工智能大会的斗兽场打完,汤圆1.0的位置就能见分晓了。
“怎么训练得这么快?”韩路一好奇地问。他印象里,1.0的训练时间相当紧张。
“说到这个,章博士您还记得吧?”
“章闻铎?”韩路一回想了一下,那个有点直、也有点倔的水木博士,他有印象。
“对,多亏了他。”赵文渊说道,“我们按他的想法做了一套新的训练框架,基于异步强化学习,把训练时间缩短了一半。”
韩路一欣慰地点头:人才济济啊。
“不过——”赵文渊忽然说道,“我当时许诺给他二百五十六张L100,去做世界模型研究。”
韩路一疑惑地看向他:“我记得研究院一共才一百多张吧?”
赵文渊嘿嘿一笑:“我这不是来找您了吗?这个成绩值不值得那么多卡?”
好家伙,老赵都学会画空气饼了,这管理水平不得评到A?
韩路一摇了摇头:“最近临港那边富裕出一些算力,张家口这边再拨一个五百卡集群给研究院。”
不是不想多给:用户太多,推理流量压力大,地主家也没有余粮啊。
看罢汤圆1.0的成果,两人又来到赵文渊的院长办公室,把次日专项汇报的材料过了一遍。
国家重大专项的整体流程较长。源智承担的方向是算力国产化,项目全名为《面向千亿级参数模型推理的国产AI加速集群关键技术攻关》。
从源智入选拟立项名单至今已一个多月。按照成长流程,这段时间是研究单位写计划、整理材料、申请补助预算的时间,还不用出成果。
明天的汇报会嘛,说白了就是汇报计划。
汤圆本身有万亿级参数的底子,后训练对显存要求没那么高,千卡集群即可完成。
若要做万亿级参数大模型的预训练,训练集群规模还得再突破。
源智当前总算力有限,在保障大量推理需求的情况下,尚无余力支撑下一轮预训练。
问题在于:若只看千亿级参数,源智已在L100集群上跑通训练侧工作。
攻关已经完成。
明天的会上可以直接展示成果。
“所以韩总,咱们这个汇报该怎么做啊?”赵文渊问道。