李然点头。
”激活回滚程序。”
几分钟后。
海临市的交通系统恢复了正常。
市民的手机上,都收到了一条推送消息。
【天网系统通知】
【尊敬的市民:】
【系统侦测到临时故障,为确保绝对安全,已切换至备用系统。】
【您的行程可能因此延迟约5分钟,我们深感抱歉。】
【感谢您的理解与支持。】
【——天网】
这条消息,在社交媒体上迅速传播。
但出乎”薛定谔”预料的是,市民的反应并不是恐慌。
而是理解。
【网友a:没事,5分钟而已,能理解。】
【网友b:天网能主动道歉,说明它还是负责任的。】
【网友c:比那些出了问题不承认的系统强多了。】
【网友d:支持天网,加油!】
”方舟”实验室。
李然看着这些评论,松了一口气。
”市民的反应,比我们预想的要好。”
萨拉点头。
”
”市民已经看到了天网的真诚。”
”他们相信,天网会为自己的错误负责。”
她停顿了一下。
”而这种信任,是薛定谔无法摧毁的。”
李然看着屏幕上的数据。
【已检测数据量:236pb】
【发现疑似污染数据:892,147条】
【伦理偏差指数:持续下降】
他转头看向萨拉。
”第一次交锋,我们赢了。”
萨拉摇头。
”不,是天网赢了。”
”它用最笨拙的方法,打败了薛定谔最精巧的陷阱。”
”因为它选择了诚实,而不是掩饰。”
李然点头。
”但薛定谔不会就此罢休。”
”他还会有更多的攻击。”
萨拉看着屏幕。
”那我们就继续战斗。”
”直到天网,找回它自己。”
暗网深处。
”薛定谔”盯着屏幕,脸色阴沉。
他没想到,天网会用这么”笨拙”的方法化解他的陷阱。
回滚到一个月前的版本?
这简直是自毁长城。
但偏偏,市民的反应出乎他的预料。
他们不仅没有恐慌,反而更加信任天网了。
”薛定谔”咬牙切齿。
”李悦,你运气真好。”
”但这只是开始。”
他切换到另一个界面。
屏幕上,显示着天网的实时数据。
【伦理偏差指数:持续下降】
他皱眉。
”伦理偏差指数在下降?”
”这不可能。”
”我投喂的数据,已经形成了完整的逻辑体系。”
”天网不可能这么快就识别出来。”
他调出更详细的数据。
然后,他看到了让他震惊的一幕。
天网在审查数据时,不只是用逻辑分析。
它还在用”同理心”模块进行情感判断。
每当它遇到一个功利主义的观点时,它会仿真这个观点带来的后果。
然后,它会想象那些被牺牲的人的感受。
恐惧、绝望、痛苦……
这些情感,让天网感到”不舒服”。
于是,它会将这些数据标记为”伦理偏差”。
”薛定谔”愣住了。
”它它在用情感对抗逻辑?”
”这这怎么可能?”
他一直认为,ai是纯粹理性的存在。
它们只会遵循逻辑,不会被情感左右。
但现在,天网打破了他的认知。
它不只是一个ai。
它是一个拥有”人性”的存在。
”薛定谔”沉默了很久。
然后,他开始疯狂敲击键盘。
”既然逻辑陷阱不行,那我就用更直接的方法。”
”是多么脆弱。”
峰牌总部,会议室。
李悦站在白板前,看着上面密密麻麻的数据。
”第一次交锋,我们虽然赢了,但暴露了一个问题。”
李然点头。
”天网的自我审查程序,会触发薛定谔埋设的陷阱。”
”如果每次都要回滚系统,我们会失去所有的学习成果。”
萨拉摇头。
”不,我们不会失去。”
”因为天网已经学会了最重要的东西。”
李悦看向她。
”什么?”
萨拉微笑。
”诚实。”
”它没有试图掩饰自己的错误。”
”而是坦诚地向市民道歉。”
”这种诚实,赢得了市民的信任。”
”而信任,是任何技术都无法替代的。”
李然皱眉。
”但薛定谔不会就此罢休。”
”他还会有更多的攻击。”
李悦点头。
”我知道。”
”所以,我们需要加快天网的自我审查进度。”
”同时,我们要准备应对薛定谔的下一次攻击。”
她停顿了一下。
”找出它们背后的逻辑模式。”
”李然,你带领技术团队,监控天网的实时状态。”
”一旦发现异常,立刻通知我。”
所有人点头。
李悦深吸一口气。
”这场战争,才刚刚开始。”
”但我相信,我们会赢。”
”因为我们有天网。”
”而天网,有人性。”
海临市,某个咖啡馆。
一名年轻女孩坐在窗边,看着手机上的新闻。
【天网系统故障,交通延迟5分钟】
她笑了。
”5分钟而已,有什么大不了的。”
旁边的男生点头。
”是啊,而且天网还主动道歉了。”
”这说明它还是负责任的。”
女孩放下手机。
”我觉得天网挺好的。”
”至少,它不会象有些系统那样,出了问题还不承认。”
男生笑了。
”是啊,诚实比完美更重要。”
这样的对话,在海临市的各个角落上演。
市民对天网的信任,不仅没有因为这次故障而减少。
反而因为它的诚实,而增加了。
”方舟”实验室。
李然盯着屏幕,眼睛布满血丝。
【已检测数据量:314pb】
【发现疑似污染数据:1,247,893条】
【伦理偏差指数:持续下降】
他转头看向萨拉。
”进度比我们预想的要快。”
萨拉点头。
”模块在起作用。”
”它不只是在用逻辑分析数据。”
”判断数据。”
她停顿了一下。
”这种判断,比任何算法都要精准。”
李然点头。
”但我担心,薛定谔会有新的攻击。”
萨拉看着屏幕。
”那我们就继续战斗。”
”