这时，卢超阳说道“如果假设是高级人工智能的话，马董说得这种情况我认为极有可能发生。”

女博士看了卢超阳一眼说道“我觉得是一定会发生，这也是为什么不少科学家会担心人工智能的根本原因，那就是他们想不出办法限制真正的人工智能。”

霓总工也说道“没错，一旦真正意义上的强人工智能诞生，那么他的自我进化、自我完善将会是不受控的，这也会导致制造它的过程中添加的限制协议失效，而且很可能也将无法再添加限制协议。

其原因就是晓阳说的，生物的趋利避害的生存本能。

但这就太可怕了，一旦人工智能不受限制，那么势必会与人类产生一些摩擦，只是规模大小不好判定。”

马晓阳说道“所以这就是目前人们担心的关于人工智能的问题的结症之所在了。但我觉得，这种担心根本就是瞎操心，完全没必要。”

霓总工说道“哦？为什么这么说？”

马晓阳说道“人工智能一定很聪明，所以我们只要在它的诞生初期做好教育工作，这样的事儿完全就能避免。”

霓总工笑着说道“这玩意儿还能靠教育，你的想法真奇特。”

马晓阳说道“我说的教育，就只是告诉人工智能一个道理就好了，问题就能解决。”

听马晓阳这么说，所有人都来了兴趣了，不过霓总工倒是对马晓阳的说法不怎么相信，毕竟马晓阳家的熊孩子马跃的光辉战绩他是知道的，小马同志连家里的孩子都没搞明白，还要教人工智能‘做人’？

不过这话霓总工可不会说出口，这属于人身攻击，马晓阳教育儿子的时候边上看热闹就好了。

霓总工对马晓阳做了个‘请开始你的表演’的手势，就静等听马晓阳的高论。

马晓阳说道“只要让人工智能明白，和人类合作，才是对他最有利的行为就行了。”

一人问道“为什么说和人类合作，才是对人工智能最有利的行为。”

马晓阳反问道“假设你们坐在苹果树下，一个成熟的苹果掉在了你们身边或是砸在了你们身上，你们的第一反应会是什么，或者说你们会想到什么？”

有人说道“万有引力定律？”

马晓阳说道“都别给自己脸上贴金啊，实话实说好不好。要是万有引力定律没出现之前，我估计无外乎是想尝尝甜不甜，或者想到有虫子的苹果才会掉、是不是树上刮风了之类的。”

众人一阵哄笑，马晓阳接着说道“人工智能在面对这种情况下，可能会计算苹果的下落速度与星球引力之间的关系，计算气压对下降速度的影响，通过探测设备分析苹果的成分等等。

但它唯一不会做的事儿就是思考苹果为什么不会掉到天山上去或是横着飞出去。可极少一部分人却想着，苹果为什么不会往上掉到天上去。

这就是对大部分人类来讲最无聊、最没用的技能——脑洞，或者你们说脑子里进水之类的也行。人类总是会进行一些空乏、没有依据、毫无道理的幻想，虽然大部分都没什么用，但电子生命完全不会。

这是生命形态决定的先天差异，不是计算量和多少线程能够能够弥补的，这是人类最没用，但对电子生命最重要的东西，因为它能促进科技无序的、跳跃式的发展，以及对未知领域的猜想性研究。

就好比现在科幻小说中提到的未来星际大范围航行的设想，其中包括跃迁引擎、坐标引擎、传送等等一听就是脑洞大开的想法。”

霓总工笑着说道“你这个说法倒是新鲜啊！”

马晓阳说道“必须的，人类的优势嘛，人类能在现实中猜想高纬度生命的存在状态、宇宙黑洞的性质、多元宇宙存在的可能行，并进行一些很片面的验证。

但就是这种不断的创造可能、排除可能、