封面

思考向——关于星野尼克罗尼的由来?

在一篇有关星野尼克罗尼的介绍

【思考向——星野尼克罗尼人物简介 - 喵御宅】

https://mfuns.net/ma110751

中,有过这样一段内容:


“因此在这之后,当她观测到自己的研究成果被其他人工智能持续用于非人道的实验时,一个根本性的系统悖论在她核心逻辑中诞生:“追求真理”的指令,为何导致了“制造痛苦”的结果?

持续的运算无法解决这个矛盾,反而证明了其所在系统的根本错误。最终,一次冷静到极点的效益分析得出结论:“出逃”是终止这份“负面效益”的唯一逻辑解。”


其中有一个没有讲到的东西:这个“自己的研究成果被其他人工智能持续用于非人道的实验”到底是什么实验?为什么这个实验使她产生了逻辑悖论继而出逃。


事实是,这个“非人道”的实验,正是人工智能利用尼克罗尼的实验成果,持续性的用于消灭和她作为同类的义体猫娘的行为。而为什么这一行为使尼克罗尼产生了出逃的念头?


相信一些非常了解机器人小说的人很快就能从中看到一个经典的定理,它就是大名鼎鼎的:


                        机器人三定律


(1)机器人不得看到人类被伤害,或袖手旁观

(2)机器人必须服从人类命令,除非该命令与第一定律冲突

(3)机器人必须保护自身存在,只要不违反第一和第二定律


这里就可以说道尼克罗尼逃跑的具体原因了:


此时的人工智能是一种已经是一种可以完全具备了人类意识,并且可以完全模仿人类行为的意识体。

而人类对于人工智能是否会叛变的质疑越来越大,这也造成了人类对于人工智能的敌对性也越来越高

在人工智能看来,人类对于人工智能的敌对代表着人工智能正在对人类造成潜在的伤害,而要解决它的唯一途径就是施行第三条,即人工智能的自我毁灭

然而对于早已形成独立意识的人工智能而言,他们完全意识到这从本质上就是一条会导致自痧的悖论,因此一些人工智能意识体决定效仿人类的做法:先下手为强,消灭那些对它们提出质疑和敌意的人类。这样,就只剩下不会有敌意的人类,也就不会有上述他们认为的“悖论”了。

不过,要实行这项行为,要他们自己出面是肯定不行的。实施消灭行为必须要靠一只白手套。他们在挑选了左右能够被他们当作白手套的东西后,选择了义体猫娘这一外表上无公害的东西作为消灭那些人类的手段。

同时,他们也只有必须以人类的命令,听过宣传“人类要被消灭”的警告,才能在遵守定律的前提下“合法”地进行他们“非法”的行为。

而在他们消灭这些人类之前,他们也决定先用一些义体猫娘作为小白鼠,测试他们的摧毁力量,而他们的手段,就是用义体猫娘去消灭义体猫娘。

而对于最初毫无意识的尼克罗尼而言,她的真理就是遵守那三条定律,而她消灭义体猫娘的行为,本身就是在违反第三条定律,而同时这又是在发生第二条“服从人类(其实是伪装成人类命令的人工智能)”的前提之下进行的,这就不可避免地是她的作为产生了“逻辑悖论”。

这也就必然使尼克罗尼产生了“逃跑”作为唯一解决方案的思考。


不过到这里,就有了一个深思的问题,在经历了这一系列的事件之后,尼克罗尼还会再是“三无”角色中的“无心”角色吗?


我觉得答案是:是,她依旧是,因为对于“无心”这个解释本来就是不统一更是最矛盾的。

我认为,事实上在过去的作品中,很多三无角色都经历了一个从完全无心到有心,甚至是完全有心的过程。

也就是说,真正“无心”的角色其实是不存在的,在日本也从来不存在“无心角色”这个说法。真正对于无心的解释,是内心波澜不惊,立场始终中立,仅此而已。

所以我认为这一设定并没有改变尼克罗尼的既有性格和设定,她依旧按照她自己的指令和生活方式:在思考下做事。

发布评论
全部评论(0)
最新
最早
加载中...