字: 大 中 小
关灯 护眼
渡口文学 > 首富从看见信息面板开始 > 第二百四十四章 他还没看过图吧?

第二百四十四章 他还没看过图吧?

    汤圆模型已在云垠这批由硅明生产的L100上完成远程试部署:算子适配做完,单卡与小集群均无问题。

    韩路一和赵文渊这趟过来,就是做最后一步验收;最关键的一环,是压力测试。

    所谓压力测试,就是一次性发出大量请求,看现有架构最多能支撑多少人同时使用。

    按计划,御风的推理数据要在两周内全部迁上来。时间紧,中间一点差错都不能出。

    御风眼下注册用户两百多万,日活二十万;单是这份用量,就快把五百张显卡的算力吃满了。

    幸好鼎盛那边送来的两千张卡快到位,下一步扩容有了方向。可那是另一家的国产卡,算子和指令集与L100重合不多;真要用起来,在L100上做过的工作就得重做一遍。

    这么一看,英伟达CUDA体系的价值就显出来了:生态一旦建立,迁移成本高得可怕。

    韩路一倒不慌。出问题正常,有他在,总能解决。

    “现在数据是多少?”

    “每秒请求数(QPS)是十六。”

    韩路一挑了挑眉。来之前他们测算过:要撑起二十万日活,每个用户每天不止发一条,多的可能几十条请求。

    每秒请求数至少得在三十以上。

    现有架构理论上能跑到五十;即便算上调度、通信、框架这些损耗,保守估计也能到四十以上。

    现在只有十六,刚好是最低标准的一半。

    赵文渊一边说,一边把电脑里的后台视图、监控曲线、输出日志都打开,铺在桌面上。

    “江松然联系过了吗?”

    “刚发过信息,他还在看。”

    江松然还在海城。入职时韩路一保证过,绝不让他出差;所以事情再大,这趟也没带他过来。

    “开个视频,一起看看,快一点。”韩路一说。

    刘彧已经用手机拨通了视频。

    画面里,江松然看起来也正忙,头发很乱,背景是他的卧室。从早晨接到赵文渊的消息起,他就一直没闲着。

    “韩总,GPU利用率我们看过了,基本满负荷,问题不在这儿。”

    每张卡看着都在干活,产出却不快。

    江松然和赵文渊又一起查驱动日志。

    软件层面看,一切正常。

    最后,赵文渊把模型配置调出来,和江松然一起看。

    配置没问题。

    模型切分没问题。

    并行策略也没问题——

    可光靠肉眼看,能看出问题的概率更小。

    有时生产事故就是这么难查,像盲人摸象。

    所有工具——各种监控数据、打印日志、热力图、散点图——都是为了把这头象摸得更清楚。

    可人毕竟不是计算机,看不见计算机的思考过程,只能想象。

    当所有摸象手段都不起效时,直接把代码、配置文件拿出来,再想象运行结果,有时也能奏效。

    甚至越是大神,越奏效。毕竟天才不能用常理衡量。

    听说冯·诺依曼当年极力反对高级编程语言(就是类似英语的编程语言),认为汇编才是和电脑交流最简单的方式。甚至传说,他能直接读懂只由0和1组成的代码。

    江松然和赵文渊之前已把相关内容排查过;现在当着韩路一的面又做一遍,仍没有新发现。

    韩路一打开视界,目光锁定电脑,又扫了一眼机房内部。

    视界升级后,韩路一不再受接收信息的带宽困扰;视界一开,就能把周围信息收集完。

    他站起身,走向旁边的准备区,穿上进机房的装备。

    视频那头,江松然还在说他的推断:“单机没问题,小集群也没事;大集群的量上不去,肯定出在集群层面——而且是大集群有、小集群没有的东西。”

    赵文渊注意到了韩路一的举动。

    “韩总。”赵文渊站起身,追过去。

    韩路一已穿戴完,看了赵文渊一眼:“你也穿上,一起来看看。”

    赵文渊赶紧套上鞋套、防静电服,戴好防静电手环,跟着韩路一进了机房。

    刘彧和张彪留在外面,没进去。

    机房里静电防范要求极高,不允许带手机;即便带进去也基本用不了。机房本身要防火防震,里面又有大量金属机柜,天然就是个法拉第笼,手机根本用不上。

    此时在赵文渊看来,眼前只有一排排冰冷的金属机柜,个个长得一模一样。

    可在韩路一眼中,景象完全不同:机柜之间的连接、数据流转,都以不同颜色像水流一样呈现。

    GPU、服务器、交换机、光纤、端口、链路……所有东西都变成一张地图,复杂到超出人的理解能力。

    这图就算拿到别人眼前,也没人看得懂。

    太复杂了。

    可韩路一理解起来毫无障碍。

    他几乎一瞬间就定位到数据阻塞的来源。

    有几组推理组之间的通信出了问题:节点之间没有物理直连,逻辑上却被分在一起;数据从一处绕远路跑到另一处,再绕远路回来。

    看似只是一个小点,可在大模型推理的并行通信里,这种细微差别会被反复放大。

    韩路一开口:“不是模型的问题。”

    赵文渊一愣:韩总,你已经解决了?这么快?

    韩路一回头看了他一眼,发现赵文渊没有要问的意思。

    他随即用对讲机和外面联系。

    “问题在网络拓扑。”韩路一说。

    声音通过对讲机、再经视频传到江松然耳朵里。他马上在电脑上翻找原始网络拓扑图。

    那是他自己设计的,为的是把集群效率打满。

    张彪很快换好衣服,拿着打印好的拓扑图进来。

    图与实际一对比,问题很快显出来。

    江松然原本的设计,是为降低推理组之间的通信延迟,把几个关键节点尽量放进同一个低延迟域。

    可云垠实际交付时,没有完全按这张图部署。

    他们用了内部更标准、更易维护的方法。

    普通服务器对通信延迟不敏感,这种接法完全没问题;为可维护性做点小牺牲,大家都能容忍。

    可放到大模型场景里,这点小延迟会被放大很多倍。

    单点测试当然没问题,整机测试也没问题——问题出在服务器间的通信。

    江松然的推断其实没错;再给他一点时间,加上赵文渊现场排查,他们应该也能查出来。

    只是没韩路一这么快罢了。

    赵文渊看着两份图,脸色很难看。

    他昨晚查了一整夜:GPU、驱动、配置、算子、服务、调度,全查了;结果问题不在任何他能看到的软件层面。

    偏偏出在机房布线。

    还好韩总亲自来了,赵文渊心想。

    视频那头,江松然咽了口口水——韩总怎么看出来的?他之前是不是连这张原始网络拓扑图都没看过?

    张彪已经迅速叫来现场运维工程师,通过节点间测速确认了问题。

    排查完,修复就容易了。不到十分钟,刘然带着两个人跑过来。

    “韩总,韩总!实在不好意思。”刘然气喘吁吁地说,“不知道你已经到了,不然我肯定全程陪同。听说你这边发现了点问题?”

    张彪上前解释。

    刘然脸色有点难看。

    这事明显是云垠做错了:明明是要讨好的客户,怎么第一件事就没办好?

    “韩总,我的。”刘然赶紧说,“我现在就叫人来,加班加点给你换好。”

    韩路一背后有国网电力投资,那是刘然巴结都巴结不上的资源。

    韩路一倒不在意这些表面功夫,只想看修复后每秒请求数能达到多少。

    眼下争分夺秒,只要能做到三十以上,就是胜利。

    刘然带来的人真是加班加点、全力以赴;几个小时后,线路按拓扑图要求重新接好。

    赵文渊再次运行压测程序。

    每秒请求数缓缓上升。

    八。

    十六。

    二十七。

    三十九。

    五十一。

    最后停在五十一,离理论极限还差一点。

    可理论归理论,实际能做到这个水平,已经相当厉害。

    这就是江松然设计链路的含金量。

    看到这个结果,在场所有人都松了口气,包括一直等着结果的刘然。

    韩路一看着机房中一排排亮起的服务器指示灯。

    汤圆,他制作的第一款大模型,终于在属于自己的集群上运行起来。

    从这一刻起,他有了自己的通用大模型——从头到尾,视界出品。
『加入书签,方便阅读』