美国,加利福尼亚州,圣克拉拉县。
英伟达竞品研究组的实验室里,一张崭新的计算加速卡放在防静电垫上。
银灰色散热外壳,黑色印刷电路板,边角还有精致的镂空标识。
Sili-Lumin L100,Made in China。
实验室里的工程师和研究员并未过多关注这张加速卡。虽是总监亲自下达的检测任务,甚至还给了明确截止日期,但对工程师们来说,这不过是“另一个”。
另一个对标英伟达旗舰的追赶者,另一个号称能挑战英伟达的初创企业。
他们见得太多了。
每年都有新公司跳出来,号称自己研发了新的运算芯片。
美国的,欧洲的,中东的。
当然,最多的还是中国的。
可不管发布会做得多酷炫,纸面数据多惊人,到了实验室,结果至少打五折——有的甚至打一折。
两名工程师整齐地穿戴着静电服连接线路。
先开口的工程师说:“怎么,又是一个H100杀手?”
另一位工程师摇了摇头,没开口——她懒得做这种无聊嘲讽,设计者又不在场,她只想赶紧把检测做完。
先开口的工程师见她没反应,也没再说话。
接好监测装置,两人回到控制台。
他翻了翻样品登记表格,发现了点儿让自己感兴趣的东西。
这张加速卡不是官方送测样品,而是英伟达在公开市场采购的一张量产卡。
一张量产卡,还是一张他们没听说过的量产卡。
有意思。
“嘿,看看这个。”他向沉默的同伴招了招手。
另一位工程师走过来看了看,没表现出特别兴趣:“按标准流程测试吧。”
开机,启动。
屏幕上很快滚动出一连串测试日志。
如同两人预料,第一轮就出了问题,而且问题很大。
驱动识别在测试框架的大多数条件下都不兼容,编译器对非常用算子完全没有适配,对常用算子的优化也很差。
先开口的工程师边看边笑出了声。
“这种水平,是怎么量产出来的?”他看着屏幕上的数据,“真不知道为什么要插队测这个,简直是浪费时间。”
这时测试框架已跑完兼容性测试,进入性能测试阶段。
其中最核心的测试是矩阵乘法的运算速度。
这是变形金刚(Transformer)架构里最常用的运算,也最吃硬算力。矩阵乘法做得好不好,是判断运算加速卡在AI领域能不能用的分界线。
另一位工程师发话了:“结果还不错。”
先开口的工程师把注意力放到屏幕数字上:“哪里不错了?这个运算效率大概只有H100的五分之一。”
这个水平的“竞争者”,他们在实验室里经常见到。
“他们的适配层写得太差,扯了硬件的后腿。”另一位工程师像在喃喃自语。她用鼠标打开性能测试结果,从里面拉出一张图表,放大,拖动。
“看这儿,运算速度波动很大,峰值高,均值低。”她转头看向先开口的工程师,“这说明什么?”
“说明什么?”他笑了一声,“这张卡磕high了?”
测试已经结束,所有结果都在威胁阈值之下。这个级别的竞品甚至不值得专门写分析报告:套用标准模板,把刚测出的数据导入数据库,流程就算走完了。
先开口的工程师已对这张卡失去兴趣,对同伴的问题也只草草应付了一句。
他迅速填完数据,脱下静电服,准备离开实验室。
“我约了杰克去三楼休息室打桌上足球,你去吗?”离开前,他问另一位工程师。
另一位工程师摇了摇头:“我再研究研究。”
“有什么好研究的,报告我都交了。”先开口的工程师说完,走出实验室,“再见,珍妮弗。”
珍妮弗回头看了一眼,便转身面对操作台。
她先把刚才的测试又跑了两遍——兼容性测试和性能压力测试都包括在内——再把记录归档,然后戴上手套,把L100从测试台取下来,放到旁边的拆解台上。
接下来就是拆解。
珍妮弗用螺丝刀逐一松开固定螺栓,取下银灰色散热外壳,露出底下的印刷电路板。
芯片的Die面积比她预想的要大不少。
芯片生产的源头在晶圆厂:芯片并非一小块一小块单独生产,而是在一整张直径三百毫米的晶圆上同时制造,组装到加速卡时再切割。
在制程相同的情况下,Die面积小通常意味着晶体管数量少,算力上限也更低。
她拿起放大镜凑近看Die表面,挺干净,没有肉眼可见的瑕疵。
这说明封装和散热设计至少没有明显短板。
珍妮弗把L100放上显微镜台,调焦,把图像传到旁边的显示器。
随后她沿着芯片边缘系统性扫描,把各区域图像截图存档。
这是深度评估的常规操作,却并非每张竞品加速卡都值得做——一轮下来太费时间。
珍妮弗一点点看过去:标准的HBM(High Bandwidth Memory,高带宽存储)接口,标准的电源轨布局,计算单元的分块方式效率很高。
图像扫描完后,若继续深度评估,就得一层层融掉晶片,逆向芯片设计图。这一步既费时间又费精力,想申请团队资源,还得单独填报告。
珍妮弗在原地想了一会儿,把L100的散热外壳装回去,重新接回测试台。
她重新打开测试数据,特意放大运算曲线的波峰区域。
这个峰值太高了,不正常。
盯着数据看了一会儿,她打开自己的工具目录。
里面有个她之前写的极简测试脚本,专门绕开通用测试框架和高层调度逻辑,直接编写极简矩阵乘内核,只测最底层的运算吞吐量。
她改了几行脚本,把接口指向L100,运行。
两分钟后,结果出来。
珍妮弗双手合在一起搓了搓。
果然,是软件拖了硬件的后腿。
软硬件差距这么大,在这一行还真少见。
她甚至想了想:如果让自己来写这个适配层,会怎么写?
想了几秒,她摇摇头——英伟达的员工不太需要担心这种事。
珍妮弗把结果截图,打开L100的报告,在下面补了一段简短备注:“这张卡的硬件设计水准和测试成绩不匹配;若有软件层优化,它的潜力会释放,建议进行深度评估。”
她不知道的是,先开口的工程师离开时填好的第一版评估报告,此刻已经摆在公司CEO詹森的桌上。
助理递报告时,顺带说出了结论:“威胁不大,连二线竞争对手的水平都够不上。”
詹森接过报告,翻了翻。
三页报告,一大半是测试数据截图,结论栏简单明了:低于威胁阈值,标准归档。
詹森把报告放回桌上,开口问道:“源智收购的那家公司,叫什么来着?”
“Sili-Lumin,应该是Silicon(硅)和Luminance(明亮)拼起来的。”助理说,“产品叫L100。”
“L100。”詹森重复了一遍,“面对的是哪个市场?”
“只面对中国市场。调查统计一共卖出不到两千张。”
“他们用的哪家代工厂?”詹森又问。
“我们的老朋友。”助理笑了笑。
詹森放下心来。
既然是这样,就没什么威胁了。
那些政客虽不愿放开英伟达的销售市场,却肯定乐意给晶圆厂再减少一个买家。
……
周五上午,几名在云垠出差的源智员工借了间会议室,与鹏城的硅明团队、海城的源码团队开三方视频会议。
“L100新集群部署得很顺利。”韩路一说,“当务之急,是尽快让台积电完成下一期订单的交付。”
硅明在台积电的一期订单是一万个L100核心芯片,已经交付。
当时薛兆恒还下了第二期一万个芯片的订单,却仍在排队;向海外采购的高带宽内存订单也在排队。
这对当时的硅明算不上好决策,预付订金让本就现金流吃紧的硅明雪上加霜。
对此时的源智来说,这却是不折不扣的好消息。
如今AI赛道火热,相关产业普遍产能不足,想买什么都没现货。
买芯片要排队,买存储也要排队。
关键在于,韩路一要的不只是订单,还有交付。
因为他预见到,华盛顿随时可能不让他买。
半导体赛道上,前车之鉴历历在目。
尤其汤圆如今还在大模型测评榜榜首,简直是众矢之的。
“另外,你和你的技术团队从现在起就要寻找替代代工厂。”
“韩总,不用这么着急吧?”薛兆恒提出疑问。
他当然懂国产替代的价值。身在半导体行业,他不会不知道最近有多少中国企业被“实体清单”限制,业务遭受重创。
可问题是,那些都是市值上千亿的巨无霸;无论硅明还是源智,应该都还轮不到担心这件事吧?
隔着视频,韩路一看不见薛兆恒的表情,却看得出他的意思。
“光是硅明当然不至于;可以源智现在受到的关注——”韩路一笑了笑,“我觉得我们很快也要被限制了。”
薛兆恒看着视频里韩路一的笑容,还有点不习惯。
多少被限制的厂商愁得睡不着觉,你怎么看起来还盼着被限制?
不过若按这个方向准备,他也理解了韩路一为何强调现在就要催订单交付。
对国内可选择的代工厂,薛兆恒之前也了解过,但问题是同一个——
产能不够。
连全球技术最成熟、生产规模最大的台积电产能都不够。
国内竞争者更不够。
在英伟达等芯片被美国限制的大背景下,国内寻求自主突破的厂商不少,其中大部分以设计和软件为核心,真正拥有晶圆生产能力的只有一家——
华夏冰芯。
可有需求的国产厂商那么多,能提供产能的只有冰芯,人家凭什么接你的订单?
无非几个办法:排队、加价,或者有深度合作关系。
硅明反正是都没有。
韩路一听完薛兆恒的诉苦,想了想说:“冰芯总部在海城,我回海城后去拜访一下;你和团队做好迁移准备就好——”
说到这儿,他笑了笑:“这也只是后备方案。如果不受限制,在台积电买得越多越好,现在再去下十万的订单也行。”
与会高管都笑了,薛兆恒也听出这是韩路一的玩笑话。
台积电的产能都排到两年后了,再下十万订单?
到时候黄花菜都凉了。
硬件团队之后,轮到江松然汇报。
此前他的主要任务是算子适配,不过这个进度已和韩路一、赵文渊私下对过,属于实现细节,不必在源智和源码的联合会议上讲。
况且这也是他现在最不担心的工作——韩路一账号上传适配的节奏稳定得惊人:昨天人在张家口,还上传了两个算子的适配。这更让江松然确信,韩路一背后另有团队。
两人一天都在一起,大半时间还在火车上。韩总总不能晚上回到酒店房间,又写两个算子的适配代码吧?
至于江松然的新工作重心——
“我写了一个新集群上线后的调度方案,用成熟开源框架做适配调整,大概一周就能完成新集群接入。”江松然共享屏幕,“随着新集群上线,基本可以说,我们的算力承载能力能提升到以前的十七倍。”
“这对御风团队可是个好消息。”江松然调侃道。最近姜亦心没少催他扩容。
视频里,姜亦心点了点头。她和苏念念、陆明洲、陈建业都在海城会议室参会。
“御风这边的数据怎么样?”韩路一问道。
作为汤圆目前唯一的接入窗口,御风的数据基本等同于汤圆的数据。
姜亦心共享屏幕,御风后台看板展开,所有人都能看到。
“注册用户接近三百万。”她边说边用鼠标在用户留存的数据图标上转了一圈,“但日活留存的斜率平得多。”
“我们分析,新增用户大多是普通用户,没有技术背景,对命令行界面不熟。他们是被汤圆的网络舆论带进来尝鲜的。”
这是个现实问题。
此前受算力限制,汤圆0.9的API一直未对公众开放。
月初汤圆0.9公布以来,外界对汤圆的质疑就没停过,国内舆论有,国际舆论也有。
虽然源智逐步向一些研究机构开放API接入供研究使用,但那只占极少数。
网上的舆论就是这样:你并不需要实际用过,也能发表看法。
很多人为了试试和汤圆对话,还特意学了怎么注册、安装御风。这便是御风这次爆发式增长的来源。
姜亦心还在汇报御风最近的数据和分析结论,韩路一已在电脑上给苏念念发私信:“念念,我准备上线汤圆的聊天机器人,用源智团队再最后打磨一下,分得出人手吗?”
苏念念先是回了一个【思考】的表情。
十几秒后,又回了个【OK】的表情。
两位CEO迅速在私下完成了交流。
恰好姜亦心汇报结束,韩路一接过话题。
“这些流失的尝鲜用户,都是汤圆聊天机器人的潜在用户。”韩路一说,随即转头问江松然,“现在上线聊天机器人,Infra这边有压力吗?”
“十七倍算力啊,除非一上线就有上千万日活,不然完全没压力。”江松然笑了笑。来源智这么久,这次说话最有底气。
“聊天机器人现在有个内测版,供员工内部使用;要做成面向公众的版本,还有不少地方要微调。”韩路一看了看视频里海城团队的画面,“我想让源码团队负责这个聊天机器人项目。苏总,你来统筹一下。”
“好的。”苏念念在视频里接下任务,“小姜、老陈,散会后我们再开个小会讨论这件事。”
“好,看来接下来大家都有事忙了。遇到困难随时找我。周末愉快。”韩路一收尾,结束会议。
视频会议挂断,屏幕回到待机页面,黑色的屏幕倒映出韩路一的脸。
没时间休息,韩路一和赵文渊带上行李,坐上了去火车站的车。
他们还要赶去京城。
下午的行程已经排满。