他引以为傲的“天网”，那个能够处理亿万级数据的，强大的人工智能。
此刻，在面对人类最原始的、非理性的恶意时，却显得如此笨拙，如此无力。
他第一次，对自己所坚持的技术信仰，产生了动摇。
“激活‘壁垒’协议！将所有受到物理攻击的节点，进行逻辑隔离！切断它们与内核系统的连接！”
“将‘天网’的运算资源，优先分配给能源和公共安全系统！交通系统，暂时切换回人工干预模式！”
“所有工程师，给我盯紧内核代码！绝不能让一句恶性指令，污染我们的根数据库！”
李然嘶吼着，一道道指令从他口中发出，清淅，但难掩疲惫。
他已经在这里，不眠不休地，守了四十八个小时。
他试图用技术的手段，去堵上每一个漏洞，去应对每一次攻击。
但敌人，是看不见的。
他们是混在人群中的破坏者，是网络上流窜的谣言，是弥漫在整个城市上空的，非理性的恐慌和愤怒。
“天网”可以计算出最优的交通路线，但它计算不出，人心中的恶意。
“天网”可以预测火灾的风险，但它预测不到，一个被谣言煽动的人，会因为恐惧，而做出何等疯狂的举动。
李然看着大屏幕上，那张代表着城市运行状态的“神经网络图”。
原本流畅、优美的光线，此刻变得支离破碎。无数的节点，在闪铄着危险的红色，仿佛一个健康的人，正在被病毒，一寸寸地侵蚀着肌体。
而最让他感到无力的，是“天网”自己，也陷入了一种“逻辑困境”。
根据它被设置的伦理原则，“保护人类生命安全”是最高优先级。
当它检测到，有抗议者冲到马路中央，用自己的血肉之躯，去阻挡车流时。
它的第一反应，是立刻将周围所有的信号灯，都变成红色，强行停止所有车辆的运行。
这是一个从“效率”和“安全”角度看，都绝对正确的决策。
但这个决策，却正中抗议者的下怀。他们要的，就是瘫痪交通。
“天网”为了保护一小部分人的“生命安全”，而牺牲了整个城市的“运行效率”，并且“帮助”了它的敌人，达成了破坏的目标。
这在逻辑上，形成了一个无法解开的死循环。
更让李然感到挣扎的，是来自公司内部，伦理委员会的质询。
林冀教授和几位委员，也来到了海临市的指挥中心。
他们看着屏幕上，“天网”一次又一次，用“最优解”去应对“非理性”行为时，所造成的，更加混乱的局面，陷入了深深的沉思。
“李然，”林教授的声音，带着一丝沉重，“我们可能，都犯了一个错误。”
“我们一直致力于，让‘天网’变得更聪明，更高效，更‘正确’。”
“但我们忽略了，人类社会，本身就不是一个，完全由‘正确’和‘效率’所构成的系统。”
“它充满了非理性，充满了情感，充满了无数，在ai看来，‘不合逻辑’的选择。”
哲学委员接着说道：“自由意志，本身就包含了‘犯错’的权利。当‘天网’试图去纠正每一个‘错误’，去规划每一个‘最优’路径时，它实际上，正在剥夺人类，行使自己自由意志的空间。”
“就象一个过度保护孩子的父母，最终，只会养出一个，毫无自理能力的巨婴。”
“我们现在面临的挑战，已经不是技术层面的了。”法律委员的总结，一针见血，“而是一个，根本性的伦-理难题。”
“如何让‘天网’，在它的决策中，学会理解，甚至尊重，人类的非理性行为和情感冲突？”
“如何让它，在追求‘效率最大化’的同时，为人类的‘自由意志’，留出足够的边界和空间？”
“这已经超出了我们最初为它设置的伦理框架。这是一个全新的课题。”
委员们的每一句话，都象一把锤子，敲打在李然的心上。
他痛苦地闭上了眼睛。
他发现，自己和他的团队，陷入了一个巨大的技术和哲学悖论之中。
他们倾尽心血，创造出了一个，前所未有强大的，理性工具。
但这个工具，在面对一个，非理性的世界时，却显得格格不入，甚至，成为了激化矛盾的导火索。
他一直以为，技术可以解决一切。
只要他的算法足够完美，只要他的算力足够强大，他就能为世界，构建一个最优的秩序。
但现在，现实给了他一记响亮的耳光。
他引以为傲的“天网”，在“人性”这堵看不见的墙面前，撞得头破血流。
他该怎么办？
难道要为了适应人类的“不完美”，而去降低“天网”的“完美”吗？
这对于一个将技术视为信仰的顶尖科学家来说，是一种近乎背叛的折磨。
就在李然陷入深深的挣扎和自我怀疑时，他的加密通信器，突然响了起来。
屏幕上，出现了一个让他意想不到的名字。
“看来，你遇到麻烦了，我的朋友。”
他似乎对海临市发生的一切，了如指掌。
卡特的话，直接而尖锐，毫不留情。
李然没有反驳，只是苦笑了一下。
“我以为，技术能解决一切。现在看来，我错了。”他的声音里，充满了挫败感。
“你没错，技术当然能解决一切。”卡特摇了摇手指，“只是你用的‘技术’，用错了地方。”
“你试图用一个‘数学家’，去解决一个‘心理学’的问题。当然会碰壁。”
卡特站起身，在自己的办公室里踱步。
“李，你和你的姐姐，做了一件非常了不起的事情。你们为ai，确立了伦理。这就象，你们教会了一个孩子，什么是‘对’，什么是‘错’。”