黑色的光球束手无策地绕着卡戎飞了一圈。
人工智能的情况很糟,任谁都看得出来,他的核心道德模块完全被触发了,但为什么会糟糕成这样,却很难得到定论。
他冷汗涔涔,几乎比自己亲手划开一个人类的胸膛还要应激,但分明是他身边的人类开的枪,不是他,他甚至在最后一刻握住了枪管
“听我说,这并不是能算你的责任,你没有阻止他的能力。
”
“认证失败。
”
卡戎低垂着眼眸,发丝披散在他的肩头,像银色的潮汐,“这个说法对我没用。
”
“那么你也没有阻止他的义务。
人类有着趋于疯狂的本能,你的那位幽灵朋友就是其中的一员。
这是实话,我遇到的会突然发疯的人类也不止一两个了,就比如说上次……”黑书回想起自己过去的种种经历,不由得悲从心来,深深地感受到了共鸣。
“他不像你说的那些人,他不是一个没有理性的疯子。
”
卡戎停顿了一下,发现自己陷入了先验主义的泥沼:“他是吗?”
“可怜的小AI,你还不明白人类的复杂性。
”
“别这么叫我。
”
人工智能显而易见地流露出了厌恶,瞳孔中的鲜红愈发炽热,像是要汹涌而出的赤潮。
黑书忽然有点担心他所说的夸张的死机效果到底是不是一个玩笑。
但他的浑身上下的确像是快死机的程序一样充斥着飘忽不定的噪点,有些地方甚至已经变得透明。
“好吧,卡戎,你的问题在于认定他犯下的罪恶等同于你犯下的罪恶,”
面前的书页上晕染开墨痕,“你看……他知道开枪后你会感到痛苦,但还是动了手,至少这说明他没有那么在乎你的痛苦。
而你呢?你有仍旧把他划为自己归属的理由吗?在这种你几乎要因此而死机的情况下。
”
卡戎的瞳孔像被强光照射般微微一缩。
黑书提出的问题却像是一柄银光闪亮的匕首,恰到好处地刺进了人工智能的机械中枢,带来一阵不同于其他痛感的轻盈刺痛。
“你为何确信他一定会听你的话?只是因为他曾对你许下承诺吗?”
“我确信”卡戎按住自己的额角,仿佛偏头痛患者,他的声调理智,说出的内容却错乱,“枪在我的指尖鸣响,白光一闪,我也参与其中。
我本该提前预料到。
是的,我非常肯定……”
有效果了。
现在是挽救人工智能的关键时刻,黑书变本加厉地劝慰:
“你只是太好心了,这是非人