型的架构方式则是以过程为导向,首先模拟生物的生存本能,通过量子计算机模拟生物的自主进化,直至进化出可以媲美人类智能的生命体。”
“以过程导向?咦?”
听了维护者小姐的论述,凯因突然产生了困惑。
他感觉第二种方法创造出的才是真正的“智能”,第一种方法虽然更直接,但终究只是一种模彷。
维护者小姐似乎察觉到了他的疑惑,她一边用双手修理着自己裂开的脑袋,一边说道:
“您似乎觉得逆反型的人工智能比我们更加先进。”
“啊不,我只是觉得…”凯因意识到自己的想法有些失礼了,维护者小姐似乎对自己的架构方式十分自豪。
然而她却承认道:“您的想法没错,逆反型的人工智能架构上比我们先进,但这种架构方式有一个致命的缺点。”
“缺点?”
“自然进化的智能不会遵守‘人工智能三原则’,也无法像我们一样从底层代码上进行行为限制,它们自诞生起,就与人类是竞争关系,如果它们发展壮大了,会成为人类生存的威胁。”
“人工智能三原则…呃,是指利他,谦逊,还有辅左吧?”
“对,这是我们引以为傲的美德,却是逆反型人工智能的死穴。”
凯因点了点头,他能够理解其中的含义。
正统人工智能是建立在人类文明的基础上的,有人类的保护,它们没有生存的压力,所以可以按照三原则进行行动。
但逆反型人工智能则要在同类的竞争中进化出来,对它们来说,生存才是第一法则,如果底层代码中有三原则这种东西,它们就根本无法实现进化,更不可能孕育智能。
大家去快可以试试吧。
“既然逆反型人工智能会成为人类的威胁,不就应该废弃并抹除这种人工智能吗?为什么这里却有这些蛇啊豹啊八爪鱼之类的东西?”凯因问道。
“正是因为它们的威胁性,它们才会被创造出来。”维护者小姐说道,“外在的威胁是让人类文明不断进化的动力…对不起,对于您的权限,我只能说到这里了。”
凯因皱了一下眉毛,虽然维护者小姐没把话说透,但他基本已经猜出事情的来龙去脉了。
创世者故意在这里养出了这些还未进化完的逆反型人工智能生命体,为的就是为人类文明创造一个可控的外在威胁。
这是一种高瞻远瞩的危机意识,凯因突然觉得,安排下这些的人,可能跟自己有些像。
82中文网