字: 大 中 小
关灯 护眼
渡口文学 > 首富从看见信息面板开始 > 第四百三十一章 数据不够了

第四百三十一章 数据不够了

    周五早晨六点整,京城水木大学博士生公寓里。

    手机闹钟响起,章闻铎睁开了眼。

    关掉闹钟,起床洗漱。整理完约莫过了十几分钟,他已经坐在电脑前。

    这是读博时养成的作息。如今入职了源智科技——哦,不,现在已经改名叫起源集团了,虽然研究院的名字还叫源智京城研究院——章闻铎仍保持着每天十一点睡、六点起的习惯,他坚信自律才是成功的关键。

    起来后的时间用来看论文,因为经过一夜休息,这个时候脑子最清楚。

    你说为什么已经博士毕业了还要看论文?

    因为博士毕业不是学习的终点,那只是科研的起点。

    看到七点半,章闻铎会去食堂吃早饭,点一个茶叶蛋、两个水煮蛋和白粥。早餐得吃够蛋白质,才能保证上午高效工作。水煮蛋太淡,可全吃茶叶蛋,钠含量又超过居民膳食指南的推荐量,中和一下正好。

    然后他骑共享单车去研究院办公室。离水木校区只有三公里多,骑车十几分钟,比地铁公交都快,还能锻炼身体,一举两得。

    到办公室正好八点,九点上班前,他能做些自己感兴趣的研究。

    章闻铎很喜欢这样规律的生活,但最近有两个烦恼。

    第一个是住处。博士毕业开始工作后,学生公寓最多只能住到七月中旬,现在已是六月下旬,找新地方住成了当务之急。

    可无论怎么找,都很难找到像学生公寓性价比这么高的选择。

    更何况搬出去住,连食堂都没有了。

    第二个烦恼和工作有关,更让章闻铎头疼。

    自从上次他提出的异步算法新架构大大提升了模型训练效率,赵文渊信守承诺,批了一百二十八张L100训练卡给他,章闻铎的课题组瞬间成了整个研究院最富裕的一个。

    赵文渊还给他配了两个来实习的在读博士生,刚毕业的章闻铎也当上了小组长。

    章闻铎主要研究世界模型,这和他博士期间的方向略有不同。那时他默认用文字形式表达世界本身有局限性,必须用更创新的算法拉平多维信号到高维空间的映射,才能更高效地建立模型内部的世界状态。

    但来到源智研究院之后,基于汤圆的研究彻底颠覆了他之前的假设。

    汤圆作为大语言模型,并不具备原生多模态能力,可通过提供足够多高精度、高质量的标注数据,汤圆1.0内部世界的稳定程度,已经超过不少探索世界模型的前沿研究。

    所以章闻铎的课题就是研究:在汤圆1.0的基础上,以大语言模型,即纯文本的方式构建世界模型,到底能做到什么程度。

    他的研究过程不算复杂,只是比较累人,主要是测试汤圆1.0微调时那些标注数据中,哪些作用更大、更关键,以便为之后的数据标注方向提供指导。

    说白了还是炼丹的过程:放这个标注,还是放那个标注,放完再用探针检测内部状态的稳定程度。

    这些都是脏活累活,不需要用到博士阶段的知识,甚至一个电脑玩得溜的初中生也能干。

    真正耗脑子的是设计改进方案、提出假设、用实验验证假设的部分。

    有时一个理论能解释几个实验结果,可再跑一组新实验,结果又偏了;只能调整理论,再按暂时的理论设计对模型训练有意义的调整方向。

    这种活儿暂时只有博士能干,连AI都还做不到。

    当然,等AI能自我演进,真正的AGI时代才算到来。

    章闻铎又是第一个到办公室的。他刚坐下,大门又开了,赵文渊走了进来。

    赵文渊看见他并不惊讶:两人总是最早到办公室,有时你早点儿,有时我早点儿。

    “早啊,章博士。”赵文渊说道。

    “赵总早。”章闻铎坐着点了点头。

    赵文渊却没进自己的办公室,直接走到章闻铎的工位边上,问道:“怎么样?最近项目进展还顺利吗?”

    章闻铎脸色一沉,说道:“不太顺利。”

    这就是他第二个烦恼:基于汤圆1.0的世界模型研究——撞墙了。

    赵文渊听完来了兴致,从旁边拉了把椅子坐下,问道:“我记得上周还有新进展,这次发现什么问题了?”

    章闻铎的组属长期战略方向,短期内没有出成果的压力,况且之前研究已有不少进展。赵文渊并不担心,这一问只是领导对员工的关心,不是对项目的关心。

    章闻铎说道:“赵总,最近几轮探针结果,能力不仅没提升,反而还降了些。”

    赵文渊接着问道:“你觉得是什么原因?”

    章闻铎想了想,说道:“我觉得应该是数据不够了。”

    赵文渊惊讶地看了他一眼。

    汤圆的参数量和标注比例不算低,更别提标注的精细程度和质量了……总之,感谢韩总。

    到章闻铎这儿,反而不够了?

    “差哪方面的数据?我帮你想办法。”赵文渊说道。

    帮遇到困难的下属解决问题是领导的责任——对赵文渊如此,对韩总也是如此,对吧?

    反正先把活儿揽过来,韩总总会有办法解决。

    章闻铎看了赵文渊一眼,不明白他连什么数据都没问就敢大包大揽,这么自信。

    但他还是解释道:“是人的数据,确切地说,是人和人之间互动的数据。”

    他不解释还好,一解释赵文渊反而不懂了。

    现在的标注数据基本都是一对一的输入和输出,这“人和人之间互动的数据”是什么意思?
『加入书签,方便阅读』