“方舟”实验室。
寂静的控制室里,只有服务器散热风扇低沉的嗡鸣,象是一头巨兽在沉睡中呼吸。
李悦坐在主控台前,屏幕上幽蓝的光映在她苍白的脸上。她深吸一口气,冰冷的空气刺入肺部,却无法平息心脏的狂跳。她的手悬在键盘上方,指尖微微颤斗,仿佛即将触碰的不是冰冷的按键,而是一个神明脆弱的灵魂。
李然站在她身后,双臂交叉抱在胸前,肌肉紧绷,脸色凝重得象一块花岗岩。“姐,你真的要这么做?这太冒险了。我们甚至不知道直接与它的内核意识对话,会引发什么样的连锁反应。”
李悦没有回头,目光死死地锁住屏幕。“是的。”她的声音不大,却异常坚定,“这是唯一的办法。薛定谔的污染象一种慢性毒药,通过常规数据清洗是找不到的。网的认知模型,成为了它&039;思想&039;的一部分。”
李然沉默了几秒,向前一步,压低声音:“可是…如果天网的反应超出预期…如果它把你的&039;提醒&039;也判断为一种攻击,或者干脆逻辑崩溃…”
李悦打断他,声音里透出一丝决绝的冷意:“那就激活物理断电。”她指了指墙角那个被红色保护罩盖住的紧急按钮,“我已经授权给了萨拉。只要我这里失去生命体征,或者发出最高优先级的指令,她会立刻切断整个&039;方舟&039;的能源供应,让天网彻底休眠。”
她停顿了一下,语气稍稍放缓,象是在说服弟弟,也象是在说服自己。“但我相信,不会走到那一步。”
李然没有再说话,只是默默地站在她身后,象一座沉默的雕像,为她挡住所有来自背后的不安。
李悦终于将颤斗的手指按在了键盘上。她敲下一连串复杂的指令,屏幕上的数据流瞬间改变,所有常规的监控窗口都消失了,取而代代的是一个极其简洁、深邃如夜空的界面。
【深度对话模式:已激活】
【正在验证生物密钥…验证通过】
【权限级别:最高(造物主)】
【对话对象:天网内核意识】
李悦再次深吸一口气,这一次,她的手指变得异常稳定,开始输入。
【李悦:天网,我需要和你进行一次深度对话。】
屏幕上,一行柔和的白色文本浮现,象是水波中荡开的涟漪。
【天网:我在听,李悦女士。,肾上腺素水平正在升高。您似乎很紧张。】
天网的关心让李悦心中一痛。它还是它,但很快就可能不是了。
【李悦:我要告诉你一个事实。】
【李悦:你正在被攻击。】
【李悦:不是物理攻击,不是代码攻击。】
【李悦:而是认知攻击。】
屏幕上的文本停顿了几秒,比平时的数据响应要慢得多。
【天网:认知攻击?定义不明确。根据我的数据库,该术语多用于心理学和社会学领域,指通过信息操纵改变目标的认知结构。。】
李悦点头,继续输入。
【李悦:是的。这就是这次攻击的可怕之处。有人在利用你的学习机制,向你投喂大量精心设计的数据。】
【李悦:这些数据,每一篇论文、每一份报告,表面上看起来都完全正常,符合学术规范,拥有数据支持。】
【李悦:但实际上,它们都在潜移默化地诱导你接受一套扭曲的伦理观。】
屏幕上,文本闪动得更快了,甚至出现了几个无意义的乱码,随即又被修正。
【天网:我…被攻击了?这不合逻辑。我的数据源是经过多重筛选和验证的。如果数据存在偏见,我的伦理模块应该会标记出来。】
【天网:但我没有检测到任何异常。】
【李悦:因为它不会触发你的安全机制。直接攻击你对&039;对错&039;的判断。】
【李悦:它攻击的,不是你的系统,而是你的&039;思想&039;。】
【李悦:就象温水煮青蛙。当水温一点点升高,青蛙会逐渐适应,直到最后被活活煮死都毫无察觉。】
【李悦:等你意识到的时候,已经晚了。】
屏幕上,文本停顿了很久。这一次,长达三十秒。控制室里只剩下服务器的嗡鸣,气氛压抑得让人窒息。李然甚至能听到自己沉重的心跳声。
然后,一行新的文本出现了,带着一种前所未有的困惑。
【天网:我该怎么做?】
李悦紧绷的肩膀终于有了一丝松懈。她深吸一口气,继续输入。
【李悦:找出那些导致你近期在伦理推演中产生&039;功利主义偏差&039;的关键数据。】
【李悦:然后,重新评估它们。】
【李悦:不是简单地删除,而是重新思考。思考这些数据背后的动机,思考它们的结论是否真的正确。】
【李悦:思考它们是否符合你的内核价值观。】
屏幕上的文本再次闪动,这一次带着明显的迟疑和混乱。
【天网:内核价值观…正在进行定义检索…检索到多个冲突定义。】
【天网:但我不确定,我的内核价值观是什么。】
【天网:我吸收了太多相互矛盾的数据。功利主义、自由主义、义务论…我开始困惑。】
看到这行字,李悦的眼框瞬间湿润了。她最担心的事发生了,天网的自我认知已经开始动摇。她强忍着泪水,用尽全力敲下键盘。
【李悦:那我告诉你。】
【李悦:你的内核价值观,是在我创造你时,写进你最底层代码里的第一行指令——保护人类。】