字: 大 中 小
关灯 护眼
渡口文学 > 首富从看见信息面板开始 > 第五百零二章 MIT还不错

第五百零二章 MIT还不错

    周四上午,不到九点。

    公司安排的大巴车开到海城博雅酒店,接上从京城过来的研究员们,一共二十多人,随后一起送往起源总部大楼。

    不少在京城入职的研究员还是头一回来海城总部。韩路一便让行政安排人带他们参观了一圈,又把大家临时安置在产品团队附近的一间会议室里工作;周边的小会议室和开放交流区也一并开放,好让平时在线合作的同事抓住机会当面交流。

    这些安排都是韩路一和苏念念商量后定下的。

    给即将到访的三星考察团展现实力当然是最主要的目的,但借此机会团建一下,让研究院的同事们来总部感受企业文化、增强凝聚力,倒也不是坏事。

    总裁办公室里,赵文渊摸着下巴问:“所以,韩总,只要咱们证明能给三星的大模型提升能力,他们就给咱们分产能?”

    “我没这么说。这不是充分条件,而是必要条件——要是咱们连这个实力都展示不出来,那连谈的机会都没有。”韩路一答道。

    “可大模型训练又不是现场找Bug,训练管线那么复杂,最后结果不收敛、模型能力弱,哪一层出错都有可能,我怎么可能保证现场就查出来?”赵文渊顿时觉得压力山大。

    韩路一语气平静:“没事,我信任你。”

    就算你看不出来,不是还有我吗?

    我的意思是说,不是还有视哥吗?

    赵文渊看着韩路一成竹在胸的样子,居然也镇定下来。行吧,既然你说行,那就行。

    快到十点时,韩路一的手机收到朴在中的信息:“韩总,不好意思,海关慢了一些,我们很快就到。”

    三星团队最终在十点十三分抵达。

    韩路一、苏念念和赵文渊一起在会议室等着,其他源智研究员则在另一处待命,需要时再请进来讨论。

    不一会儿,刘彧领着三星团队走进会议室。

    打头的竟是一位年轻女性,还走在朴在中前面半个身位。

    她身后跟着三个穿西装、背双肩电脑包的男人。

    朴在中率先开口介绍:“韩总,这位是三星电子水原研究院的李珍珠组长。”

    韩路一一边伸手,一边打量这位貌不惊人的姑娘。

    心念一动,半透明的文字浮现在眼前。

    【李珍珠·|】

    【职位:水原研究院大语言模型组副组长】

    【情绪:谨慎】

    【隐藏情绪:焦虑】

    【核心焦虑:急于向父亲李在荣证明自己的能力,战胜同为三星继承人的哥哥李智慧】

    竟然是位重量级人物。

    韩路一也没想到,会是三星的公主亲自来和他们谈;只可惜,这位公主眼下的处境似乎也不怎么样。

    “李组长,你好。”韩路一伸手和她握了握,两边的人各自做了介绍。

    三星代表团里,除李珍珠和翻译外,另外三位都是研发高斯大模型的骨干。想让他们信服,可不是件容易的事。

    李珍珠不会说中文,身边带了翻译,朴在中也能转达一些意思。

    简单寒暄后,李珍珠身后的一名研究员把电脑接上会议室屏幕。

    第一页是高斯大模型的介绍。

    韩路一扫了一眼:参数规模、支持语言、应用场景,还有一张相当漂亮的能力雷达图——肉眼可见比汤圆的测评数据缩水了一圈,可他们还是把雷达图画得很满。

    这显然是三星对外发布用的材料。

    李珍珠说了几句话,翻译随后转达:“我们希望先了解,贵方准备通过什么方式评估我们的模型,以及这次交流需要涉及多大范围的技术资料。”

    苏念念笑着说:“今天的交流范围,以双方都方便提供的信息为准。涉及保密的部分,随时可以跳过。”

    李珍珠点点头,又说了一句:“既然这样,我们带来了一些训练过程中遇到的问题,希望先听听赵博士的看法。”

    赵文渊正了正身子:行,总算到正题了。

    旁边的研究员切换文件,屏幕上出现几条训练曲线。

    高斯的一个重要应用方向,是接入三星自己的手机、家电和办公体系。因此完成通用预训练后,他们还会追加大量韩语和企业应用相关数据,进行下一阶段训练。

    可这造成了一个严重问题——模型的韩语表现提升了,英文、代码以及通用推理任务的成绩却不成比例地下降。

    三星的模型团队总是难以在原有底座模型上实现净提升,放弃韩语能力又是他们不能接受的,于是最终发布的高斯模型只能在几种方案里选一个最能被接受的折中方案。

    赵文渊看了一会儿,心里已经有了猜测。

    这个问题,汤圆0.9训练时他几乎遇见过一模一样的情况:如何在不降低总体能力的前提下,侧重增强中文语料的比重?

    赵文渊皱了皱眉,问:“你们的数据是怎么配的?”

    几个研究员面面相觑,一时拿不准这算保密范围还是非保密范围,最后都把目光投向李珍珠。

    李珍珠面无表情地点了点头。

    操作电脑的研究员说道:“前期以英文和代码数据为主,建立通用能力。后期大幅提高韩语和企业领域数据的占比,通用数据只保留百分之五,因为我们希望把有限的训练预算集中在目标能力上。”

    赵文渊眉头舒展开来:“那你们后半程应该很难受吧。刚切换数据时,韩语能力提升很快,通用能力也没明显退化;可往后就会顾此失彼、得不偿失。如果这时候再把学习率降下来,韩语能力又会退化,就像跷跷板,没办法两边同时提升。”

    李珍珠却皱起了眉。

    赵文渊说得太准确了,准确得就像他参与了训练过程一样。

    “那该怎么解决?”李珍珠忍不住用英文问。

    赵文渊看了她一眼,也直接用英文回答:“一开始就把通用数据占比提上来。这样前面几轮训练会有能力损失,但训练到后面,韩语能力和通用能力会同时提升。这里最关键的变量,其实是数据比例。”

    李珍珠不信答案会这么简单:“增加通用数据,我们试过。同样的训练预算下,韩语能力提升明显变慢。你怎么证明,多花在通用数据上的算力,比后期修复能力更值得、更有效?”

    赵文渊没想到这个小姑娘竟能跟上自己的思路,耐心解释道:“实验室可以算。拿一个中等大小的模型,用两种数据配比:一组从一开始就提高通用数据比例,一组沿用你们的方案,从同一个检查点出发;等韩语达到同一水平时,再比较旧能力保留了多少、总共用了多少算力。”说完,他又忍不住夸了一句,“你这个问题问得挺好,平时没少跑实验吧?”

    朴在中在旁边插话:“李组长是MIT毕业的高材生。”

    赵文渊说:“MIT的啊,那也还算不错了。”

    李珍珠听出他话里隐含的轻视,气得脸都红了;赵文渊却还以为她是被夸之后害羞。

    韩路一在旁边看着,内心狂叹:文渊啊文渊,朴在中没介绍她的身份,难道你就看不出来吗?一个堂堂副社长,凭什么对年纪比自己小那么多的副组长毕恭毕敬?

    李珍珠和研究员们用韩语讨论了一下,最后开口:“不好意思,这只是一个判断,请原谅我们没法接受。我们再讨论下一个问题吧。”

    赵文渊听了翻译的话,忍不住说:“那就现场跑一下啊。”

    “跑一下?”李珍珠一愣。

    “对,高斯大模型是云端和设备端都有的混合模型吧?我直接拿小模型做实验,多种数据比例并行跑,一两个小时就能出结果。”赵文渊说道。

    李珍珠咬了咬嘴唇:“好。”

    起源内部有现成的模型训练管线,连代码都不用写。赵文渊当着三星代表团的面,在一台笔记本电脑上手动配置了几个不同的数据配比。

    点击运行。

    几个训练任务开始在云端运行。

    看着赵文渊面前的屏幕,房间里的人各怀心思。

    李珍珠又看了赵文渊一眼——这不是她第一次见这个人。六月的人工智能大会上,她就坐在台下听赵文渊公开分享;可惜当时他选择用中文分享,李珍珠只能通过翻译听懂。

    现在,潜在解决方案已经在验证了,李珍珠便打开了另一个话题。

    “关于贵方对三星半导体的需求,我没有权力插手,但我相信,我最终的分析报告会对决策有很大影响。如果贵方有更详细的需求,也可以在这里交流一下。”

    朴在中闻言看了李珍珠一眼,似乎在重新认识这位大小姐的野心——她可能不满足于在研究院建立自己的班底,连半导体部门也想插手。

    苏念念开口道:“我们需要的是最高规格的HBM3e产品,量不算小,要得也急,如果有现货最好。”

    李珍珠看向朴在中。朴在中没说话,只向她点了点头,表示自己会配合。

    李珍珠便说:“如果贵司愿意支付预付款,我可以帮你们争取更优先的条件——当然,是在合作达成的前提下。”

    苏念念点头:“可以。”

    之前SK海力士违约退的订金加赔偿金可以承担一部分,再加上起源现在的现金流整体健康,这种程度的投入还是可以的。

    李珍珠瞟了一眼旁边没有开口的韩路一,似乎对苏念念能够做主有点惊讶,但并没有说出来。

    中间,李珍珠和朴在中又详细了解了一些起源所需HBM的规格和交付节点。赵文渊忽然开口:“第一组结果已经出来了。”

    会议室里所有人的注意力迅速被吸引过去。

    虽然初始模型一样,但由于数据比例不同,最终结果的收敛速度也不相同,其他几组训练还在运行。

    大家就这么静静看着。又过了一会儿,其他几组也陆续完成训练。

    赵文渊问:“你们一般拿什么测试来测评?”

    旁边的三星研究员又上前,对这些刚完成训练的模型进行测试。

    很快,几条对比曲线被拉出来,投放在会议室大屏幕上。

    李珍珠皱起眉头。

    结果一目了然:在几组对比训练中,三星提供的原有数据配比几乎是效果最差的一个——韩语能力没有明显高于其他几组,通用能力得分却大大不如。

    “为什么会这样……”李珍珠喃喃道。

    赵文渊淡淡一笑,解释道:“从这组结果看,我更倾向于是共享参数上的梯度干扰。韩语和英文语料存在大量重叠表征,看起来不相干,训练过程中却可能相互干扰,导致意料之外的灾难性遗忘,尤其是韩语数据比重太高的时候。你们的初始配比,前期在某些特定任务上——比如韩语类任务——表现得快速提升,但这是以通用能力下降为代价的,长远看就是得不偿失。”

    李珍珠闻言,转过头深深看了他一眼,用英语说:“起源的研究团队果然厉害,我会如实写到报告里。赵博士,我想邀请你去首尔,和我们的研究团队深入交流一次。”

    韩路一这下不淡定了。

    你这个韩国人,怎么当着我的面挖人啊?

    赵文渊也没想到这一茬。2.0的训练如火如荼,他哪有空去首尔?他赶紧开口拒绝:“李女士,去首尔就不用了,我不太方便。如果我们两家达成合作,倒是可以随时远程交流。”

    韩路一也在旁边说:“当然,起源的团队随时愿意和三星的研究团队交流。”

    李珍珠抿了抿嘴:“好,希望我们能尽快推进合作。对了,你可以叫我的英文名Pearl。”

    午餐之后,三星团队又补充讨论了几项实验细节,直到下午才告辞。

    朴在中陪着他们往外走,经过韩路一身旁时,落在最后一个,在别人看不见的角度给韩路一打了个眼色。

    韩路一心领神会。

    李珍珠这关过了;不过他父亲那一关,还要等等结果。
『加入书签,方便阅读』