话音落下,许处长神情明显松弛下来。
陈副区长的热情也更高涨了。
两人虽然城府极深,表面不露分毫,视界面板却不会骗人。
贾教授说这话时,语气里也透着几分欣喜。
他当然既不认为、也不希望自己的学生去造假。
可训练大模型这事,确实不是谁都能做好,更何况要做到世界第一。
几年前华盛顿那边发起算力管制后,国内模型训练往往卡在算力不足这个瓶颈上,问题对厂商、高校都现实存在。
拿贾教授自己来说,交大已是全国顶尖高校,实验室里却也只有几百张英伟达训练卡;做小参数大模型还勉强,做超大模型没戏。
如今韩路一能做出这个模型,别的不说,显卡使用效率上肯定有提升。
只是这属于人家的商业机密,贾教授也没开口问。
贾教授回到座位坐下,韩路一调出幻灯片继续讲解。
“汤圆是我们自研的通用模型,底层训练框架由源智科技内部团队维护。预训练使用的是我们自建数据管线处理后的中英文混合语料,后训练则主要来自源智团队自己整理和标注的数据。”
许处长微微点头,刘副处长则始终留意着韩路一的表情。
他今天来的身份有些微妙,最重要的任务是配合许处长判断:这家公司是否要上报上级部门对接。
韩路一接着说:“算力部分,训练期间我们与鼎盛云服务达成合作,使用了对方提供的算力。训练完成后,现在的推理算力全部部署在张家口云垠数据中心。”
陈副区长听到这里,插了一句。
“怎么在张家口?”
这几乎是他作为区领导的本能反应。
这么重要的企业,核心资源若不在海城,后续怎么服务、怎么统计、怎么形成产业链?
韩路一一时不知怎么答——张家口电便宜,还有配套——但他还是开口:“那边只是数据中心,我们的研发和产品化仍在海城进行。”
陈副区长随即反应过来,笑了笑:“韩总,我不是这个意思。企业按业务需要在全国配置资源很正常,不过临港这边也有数据中心项目,我们会后对接一下。”
好企业,不怕你要资源,就怕你不要。
不要,就是要跑了。
许处长见陈副区长问完,抛出最后一个问题:“韩总,技术文档我们带回去再详细看看。今天时间有限,能不能先现场演示一下?”
这又回到韩路一一开始的提议——现场演示。
“当然。我先给大家展示演示环境。”韩路一说道,“现在这个界面连接的是我们内部的推理服务,就部署在我刚才说的张家口数据中心。所有数据都加密,不会流出。”
浏览器打开,仍是那个简洁的聊天框,标着模型型号“汤圆-0.9”,旁边是汤圆的LOGO。
“各位可以现场出题,只要合法合规即可。”韩路一说道。
这是他第二次强调这一点。
AI工具和其他互联网内容一样,能否做到合法合规,是政府很看重的因素。
事实上,在安全对齐上韩路一确实下了大力气。不只是因为政府的合规要求——韩路一自己也意识到,这种酷似真人的聊天助手能对人产生多大影响。
习惯了听取AI建议,人可能不自觉就受影响。
所以汤圆的道德标准或许比一般AI更高,也更克制。
贾教授先出题。
他从随身包里拿出一张纸,是提前准备好的题目,递给韩路一。
韩路一拿过来一看,挑了挑眉。
是当年期末考试的那种感觉,没错了。
题目是计算机系统设计问题:要求模型设计一个任务调度系统,支持多租户优先级、资源配额、失败重试、幂等执行,并给出关键数据结构和并发控制方案。
比起普通算法题或代码题,这类系统设计问题更考察抽象思考能力和大局观;即使在真正的程序员面试中,也只会出现在资深程序员的环节。
甚至,这个问题与真实的AI训练场景、云计算调度也相关。
不愧是贾老师,出题难度依旧在线。
换成一般大模型,这种题要么说一堆正确空洞的废话,要么很容易跑偏设计方向。
不过汤圆在这方面确实做过特化训练:它要支持的第一个场景就是御风调用,而御风调用中常会遇到系统设计问题。
韩路一拿出手机拍照,把照片传给汤圆,汤圆开始思考。
许处长忽然问:“韩总,前两天OpenAI公布的那个多模态模型,能处理视频音频,和这个是一样的东西吗?”
韩路一解释道:“许处长,您观察得很敏锐。汤圆不是多模态模型,虽然我们下一步也希望探索这个方向。多模态模型可以原生地处理声音、图像、视频等其他形式的输入;汤圆现在读图的原理,是先把图片转化成文字描述,再进行处理并生成回复。”
许处长点点头,没再追问。
很快,汤圆开始输出。
会议室里所有人的视线都落在大屏幕上。
【该系统的核心是“资源约束下的公平调度”。需要同时解决四个问题:租户隔离、优先级抢占、失败语义、幂等边界。】
紧接着,屏幕上开始输出各种技术实现细节。
贾教授聚精会神地看答案,几位领导则看着贾教授。
看了一会儿,贾教授转过头,追加一问:“如果任务执行时间不可预测,部分任务长时间占用GPU资源,怎么避免短任务永远排不到?”
这个问题韩路一当然知道答案,不过他知道,这一问问的是汤圆。
他把问题输入对话框,按下回车。
【短任务排不到,主要由于资源碎片和租约不可中断等问题,最快的解决方案是:为短任务保留小额资源池。】
许处长本人也是技术出身,认同这个答案,却仍转头问贾教授:“贾教授,您看这个水平怎么样?”
贾教授揉了揉一直盯着屏幕、有些疲劳的眼睛,说道:“不错,一般AI做不到这种程度,比我手底下的研究生还强点儿。”
这时,陈副区长开口:“我能不能出一道?”
这种场合,自然没人会说不能。
韩路一赶紧请陈副区长出题。
陈副区长说:“我们下星期有个座谈会,我就把主题给它,让它写个发言稿看看吧。”
文字处理确实是大模型最初的用法,但要说能写出政府发言稿,那就有点儿小瞧秘书处了。
陈副区长口述座谈会主题,韩路一转述给汤圆,输入对话框,按下回车。
几十秒后,一份结构完整的发言稿出现在屏幕上:开头有背景,中间有数据,结尾有展望,格式规范,语气也是典型的政府风格——
有点儿东西啊。
陈副区长看完,沉默片刻。
“这个……写得确实不错。”
他顿了顿,补充道:“当然,具体用不用,还要秘书处再润色。”
旁边的刘副处长嘴角动了动,没出声。
会议室里的气氛已经很松弛。
许处长看了看时间,与陈副区长交换眼神,得到肯定示意后,才合上笔记本站起身。
“韩总、苏总,今天收获很大,谢谢你们的时间和配合。”他说道,“材料我们带回去,内部评估一下,后续再联系。”
“许处随时过来。”苏念念回道。
许处长点头,又与陈副区长交换了个眼神。
显然,后续怎么跟进,两人心里已有答案,只是不适合在这个场合说出来。
这些当然都瞒不过视界的观察。
陈副区长也站起身,主动与韩路一握手。
“韩总,浦东这边有什么能帮上忙的,随时来找我,不用客气。”他说,“像你这种优秀企业,资源上有什么需求,直接跟我说,我们尽量配合,这是我们的工作。”
“多谢陈区长。”
刘副处长也客气了几句,大意与许处长相同,没加新信息。
一行人把领导们送上车,贾教授走慢两步,上车前说了句话。
“韩路一,苏念念,干得不错。”贾教授说,“有时间回学校看看,给学弟学妹们传授一下经验。”
韩路一答应下来,送走老师。
……
回到办公室,韩路一和苏念念在沙发上坐下。
“今天这一趟,你怎么看?”苏念念先开口。
“对我印象不错。”韩路一说,“总体上是支持的,但要一级一级上报,也不知道能给什么支持。”
苏念念看了看韩路一的侧脸:“我说了,他们不会失望的。”
随即她忽然换了话题:“没想到贾老师会来,看他出题,我还有点儿害怕。”
“哈哈,没事。汤圆答不出来,我也能答出来。”韩路一开了个玩笑,又把话题拉回工作,“陈副区长那边好像更热情一些,可以先从他那儿要资源,区里的决策链短。”
苏念念在手机备忘录里记了几行,抬起头:“我让沈丛云整理一份对接备忘,你这边……”
韩路一的手机震动起来。
他拿出来看了一眼屏幕。
陆正平。
战新引导基金的陆正平。
韩路一怔了怔。
“你先忙。”他站起身,“我接个电话。”
苏念念看了他一眼,没问。
韩路一走到走廊,接通电话。
“陆总。”