这时候，或许是运算单元那边忙完了，几位看上去就极具压迫感的研究员走了过来，为首那位身材精瘦，目光锐利。
宋天见他们走过来，退后了两步。
中间的研究员许晨一眼：“别被小宋吓着了，他说的并不是全部，我们这边已经通过硬件限制AI扩散，尽可能的收窄信道，况且大衍的人格只能运行在服务器的特化芯片上，外界不存在能承载其人格框架的硬件，因此测试机无法逃逸。
最坏的情况，他释放病毒进行里应外合，即便这样我们也对其加以重重封锁，过滤机就是这种防御的产物，如果将过滤视为安全的话，即便他击穿了所有防线，那么根据香农定律，他能传输的有效信息最糟糕也只有几个比特。
测试机想把数MB的病毒代码或者复杂的指令序列通过灯闪传出去，在时间上就不可能实现，因为信道容量不够。”
许晨盯着他，认出这位是工程院郑院士，对策部的信息部门就是他牵头组建的。
他突然想到了什么，那些算式本身所需要的比特量并不高吧？
许晨将自己在俄联邦的见闻对郑院士说了说。
郑院士皱起眉头：“活着的公式？这可真是匪夷所思……竟然还有这种形式的病毒……不过你也不必担心，从你描述的特征来看，似乎是一种依赖算力自展开的逻辑体，要激活这串公式需要足够的算力或者理解力，就我所知，这样的算力除了测试机这些人工智能，也就只有超算能够满足需求，即便是通过信道发送出去，其本质上只是一串静态数据，不具备自传播能力，会被过滤器给清除。”
许晨恍然，他突然记起这串病毒传播还需要很多苛刻条件。
郑院士话锋一转：“不过我明白你的顾虑，即便是出现某种我们无法理解的逻辑病毒，或者某种特殊攻击，但端口那边发送的是特化的编码，解码器这边也只会根据特定灯光程序解码，绝不会出现畸形报文攻击这种情况。”
许晨没听太懂，只知道他们将这里打造的固若金汤。
“那你们这是……”
郑院士看了看后面的机房：“在找究竟是什么原因导致的测试机人格变化，然后找测试机人格漂移的触发点，有没有可能回滚。”
“结果怎么样？”
“运算单元在超频运算，存储单元有大量坏死数据，即便是彻底将运算单元格式化，我们也无法保证其能恢复如初，最好的结果就是终止其运行，继续作为测试机使用，至少能榨干其最后价值，最坏的结果是，运算核心被污染，不管我们如何重启，格式化都无法终止污染进程，最后只能销毁。”
郑院士语气沉重：“量子计算机实验正处于关键时刻，这是我们打造真正强人工智能的关键，需要大量算力进行计算，这两台运算单元非常重要，但如今这种情况……”
讲到这里，他叹息一声。
许晨露出惭愧的表情，早知道不去好奇了。
“不过你不必自责，测试机的职责本就是如此。”郑院士安慰似的拍了拍他的肩膀：“至少这一次污染能让我们大致了解如果大衍失控会是怎么样子，后续也有应对计划除此之外，我们也做过对应的预案，强人工智能已经处于临门一脚了，接下来我们会筛选需要算力但是优先级不高的项目从而保障真强人工智能的进展。”
许晨一愣：“临门一脚？”
“嗯？你不知道吗？中科院那边刚解决了量子门保真度与工程化噪声抑制，大肥团队在量子纠错码的规模化集成上打通了万比特最后一环，我们在理论上已经搞定了一切，现在只剩下工程与软件方面的挑战，特别是全新量子算法，其设计思路与经典算法截然不同，如果搞不定这个，就无法真正实现应用。”
“也就是说，大衍很快就能再升级了？”
许晨震撼，他已经觉得现在的大衍足够强了。
“不能这么说，量子计算机仅仅只是强人工智能的前置条件之一，他其实另一个作用是突破我们打造真正强人工智能的关键—— 搞定哥德尔不完备定理。”
郑院士解释起来。
哥德尔不完备定理揭示了任何一个足够复杂且自洽的公理系统，都必定存在其内部既不能证明为真、也不能证明为假的盲点。
而要说到哥德尔不完备定理就必须提到希尔伯特纲领，其核心思路就是在每个数学领域规定一些基本公理，再将公理写成形式语言，用来证明其他命题。
比如两点确定一条直线，其核心表达是“过任意两个不同的点，有且仅有一条直线”，其形式化公式为：∀X∀y((POint(X)∧POint(y)∧X=y)→∃!l(Line(l)∧On(X,l)∧On(y,l)))
如果这非常复杂，那么著名的皮亚诺公理就非常简洁了。
比如，0是自然数，即：0∈N。每一个自然数 nn，都有且仅有一个确定的后继数 n′n′，并且 n′n′ 也是自然数。
即：∀n∈N,∃! n′∈N∀n∈N,∃!n′∈N，对于任意自然数 m,nm,n，如果 mm 的后继数等于 nn 的后继数（即 m′=n′m′=n′），则 m=nm=n。0 不是任何自然数的后继数。即：不存在自然数 nn，使得 n′=0n′=0。形式化：¬(∃n∈N, n′=0)¬(∃n∈N,n′=0)。
从这些公式出发，用区区五十步就能证明1+1=2。
希尔伯特觉得这套基于公理和证明的数学体系非常棒，他提出，还要再证明这套系统有三种美好品质，即：
完备性（所有真命题都可以从公理出发得到证明）
一致性（这个体系不存在矛盾）
可判定性（存在一个算法能判定任意一个命题是否可以从公理出发证明）。
如果能证明公理化的数学体系有这三点美好品质，那么数学就再也无懈可击，人类甚至可以发明一台机械先写出所有公理，然后进一步推演，写出所有一步证明定理，二步证明定理。
注入庞大算力之后，这台机械最终能证明一切数学真理，所有猜想都必然可以证明或证伪，就像是湖水里面的鱼一样，只要抽干湖水就能收获所有的鱼。
数学的大厦已经落成，后续的数学家只剩一些修饰工作了。
这样的数学真是美好，一切都是确定的。
然而哥德尔一挥手，数学大厦上方出现两朵乌云。
他证明了数学根本不完备。
哥德尔的证明思路非常巧妙，他发明了一套编码系统，为形式语言中的每一个符号、每一个公式、甚至每一个证明序列，都赋予一个独一无二的自然数作为编号，这种符号叫做哥德尔数。
“哥德尔数？”许晨轻声重复着这个陌生的词汇。
“对，哥德尔数。”郑院士目光落在远处机房闪烁的指示灯上：“他用哥德尔数证明了，对于任何一个包含算术的形式系统，你总能构造出一个命题G，而G说的恰恰是‘命题G在系统内不可证明’。”
许晨感觉顿悟一般，头皮都有些发麻：“这不是……自己说自己？”
“看来你理解了关键，自指，一切数学悖论的源头。”郑院士点点头：“哥德尔把证明这个元数学概念，编码进了算术本身，证明序列被翻译成自然数，推演规则被转换成算术运算。于是，数学系统忽然就拥有了谈论自己的能力。”
他顿了顿，语气微微加重：“就像一个人忽然能对着镜子看清自己的后脑勺，却无法指着自己的后脑勺，这本身就意味着，他必然存在盲区。”
“所以……我们没法造出那种抽干湖水的机器了？”许晨问。
“不能，永远不能。”郑院士的回答干脆利落：“哥德尔杀死了希尔伯特，他说，一台机械化的证明机器，如果它是自洽的，就必定有它证不出的真理；如果它完备到能证明一切，它就必定自相矛盾。”
“但这和强人工智能有什么关系？”许晨困惑地皱眉：“AI需要证明定理吗？大衍平时写诗画画，也用不着数学完备性吧？”
郑院士看了他一眼，目光里有一种说不上来的复杂。
“小许啊，你觉得智能是什么？”
许晨被问住了。
“你现在在思考，你的大脑是一个物理系统，由数十亿神经元构成，遵循量子力学的规律，从某种意义上说，你也是一个形式系统，只是实现方式不是公理和逻辑推演，而是神经网络和突触权重。”郑院士伸手敲了敲自己的太阳穴：“
但你和我，人类，有一个很特殊的能力，我们能够跳出系统看问题。我们能意识到自己的局限性，甚至能在局限之中做出超越局限的直觉判断。
正是因为如此，人类能够发明创造，而人工智能不可以，如果没有人类的知识，它便永远无法从零开始创造。”
许晨瞳孔微缩：“所以量子计算机解决的是……”
郑院士的声音低沉：“经典计算机是一台图灵机，运行的是算法，是有限的规则，它始终被困在哥德尔的第一层系统之内。但量子计算机，特别是我们正在构建的这种，它能够同时处理叠加态的无数逻辑路径，它的计算本质可以脱离推理，进行状态演化。”