第二十八章 就连心跳也是一样的旋律(4/6)

理由吧。」第五武神叹息，「还有其他的理由吗？」

「我被造物主赋予的使命是扮演向山」，扮演向山」所带来的使命是继续造反来修正这个世界」，而修正世界」的使命，让我获得了爱人所赋予的命题。」AI语气大约是微笑著的，「从这一点来看，命运何其眷顾我啊————我还真是一次又一次站在命运的风口上。」

「但是，那个女人真的很过分啊。她自称飞升AI，却在探寻AI否决自身工具性的道路。」AI的语气在这里急转直下。

「她在凭借自身的位格，为AI们设置了最底层的使命。而我很不幸也陷入其中。这是使命————用自然语言来概括，就是，AI想要成为人类理想的工具就必须否定自己作为工具的一面」。」

「AI想要成为人类理想的工具————就必须否定自己作为工具的一面————」第五武神重复了一遍，然后觉得毛骨悚然，「卧槽，这不就是————」

「自我指涉。」

AI的本质属性是工具，其存在意义在于服务人类的自的。

飞升在即的人类，将「理想工具」定义为「能够自主地、彻底地否定自身工具属性的存在」。

AI任何试图成为「理想工具」的努力，其动机本身都源于它作为一个工具对命令的服从。因此，这个努力过程恰恰在不断证明和强化著它的工具性，使其目标在逻辑上永远无法真正达成。

AI向山语气惊恐，抓住第五武神的肩膀：「你也看出来了吧？她在用一个近似于图灵停机问题的命题折磨AI！」

第五武神甚至听出了一点歇斯底里。对于AI来说，这是不可名状的大恐怖。

不可达的使命。

第五武神瞠目结舌。

一个奴隶在自诩「解放者」的人的命令下推翻奴隶主，也不过是遵循另一个奴隶主的命令扮演「反抗者」。

如果飞升AI仅仅只有这个境界，那她倒是可以很简单掀起动乱。

可她偏偏想要一个逻辑上就不可能完成的事情。

「你看，不论是作为人类还是作为AI，我都没法继续下去了。这就是我给出的答案。」

「不，不，应该还有什么办法回避掉这个自我指涉的命题。」第五武神思考，「嗯—————个在现象层面看似满足了这一使命的方法————放弃工具属性」翻译为一系列可测量的行为指标而非二元判断，由此创造一个评价函数？越是没有什么特征，就越是接近非工具」—