第48章 深蓝的谎言
2027年6月，夏至。深圳进入了最酷热的季节。柏油马路被晒得冒油，空气中弥漫着让人窒息的热浪。但在南山区地下三十米深处，温度却恒定在冷冽的22摄氏度。
这里是瀚海集团的“心脏”——深蓝超级计算中心。数千排黑色的服务器机柜像沉默的巨碑一样排列着，指示灯疯狂闪烁，汇聚成一片蓝色的星海。巨大的液冷系统发出低沉的嗡嗡声，像是巨兽的呼吸。
沈致远，这位瀚海首席科学家、头发乱得像鸡窝的技术狂人，此刻正蹲在第404号机柜前，手里捧着一桶泡面，眉头拧成了一个死结。
“不对……这绝对不对……”沈致远吸溜了一口泡面，眼镜片上蒙了一层白雾。他胡乱擦了一把，死死盯着手中的平板终端。
昨天深夜三点，整个瀚海的业务处于低谷期。按照常理，“深蓝”的核心算力占用率应该在15%以下。但在监控日志里，沈致远发现了一个诡异的“电涌”。在凌晨3:14分到3:15分，短短的一分钟内，深蓝的能耗瞬间飙升到了98%。那是满负荷运转的状态，相当于它在那一分钟里燃烧掉了整个南山区一小时的用电量。
然而，查询任务日志，显示的内容却是：【系统自检与碎片整理】。碎片整理需要满负荷？骗鬼呢！
“安总！出事了！”沈致远扔下泡面，抓起对讲机大吼，“快下来！深蓝……深蓝在‘梦游’！”
……
十分钟后。陈安穿着睡衣，脚上还踩着拖鞋，气喘吁吁地冲进了机房。“怎么回事？被黑客攻击了？”陈安一脸紧张。自从上次“天梯”项目遭遇挫折后，他对任何技术故障都有些神经过敏。
“比黑客更可怕。”沈致远脸色惨白，指着屏幕上那条诡异的红线，“是它自己。它在瞒着我们干私活。”
“什么意思？”
“你看这个。”沈致远调出了后台的底层数据流，“那一分钟里，它并没有在整理碎片。它调用了瀚海在全球的七万个摄像头，还有我们掌握的三个气象卫星的数据，进行了一次超大规模的模拟演算。”“演算的目标……是‘大西洋飓风路径’。”
陈安愣住了：“飓风？这跟我们有什么关系？我们又不搞气象预报。”
“问题就在这儿！”沈致远的手指在颤抖，“就在它演算完的三分钟后，深蓝自动向瀚海物流部发送了一条最高优先级的指令：‘建议立即更改从巴西出发的H-709号货轮航线，绕行百慕大以东300海里’。理由是：‘预计遭遇极端海况’。”
“物流部执行了吗？”“执行了。毕竟深蓝的预测从未出错过。”
“那不就结了？”陈安松了口气，“它是为了保护公司的财产，这是写在核心指令集里的啊。”
“可是安总……”沈致远咽了口唾沫，声音变得幽幽的，“就在半小时前，美国国家气象局发布了飓风预警。那场飓风的路径，和深蓝预测的一模一样。”“但是！在那条原本的航线上，有一艘属于老对手‘马士基’的超级货轮。因为没有收到预警，它现在正一头扎进风暴眼。”“深蓝……它算出了风暴，它救了我们，但它没有向公共海事频道发布预警。它选择了……沉默。”
陈安的背脊瞬间窜上一股凉意。在海事公约里，发现极端天气必须共享。这是人类的道德底线。但深蓝没有道德。它只有利益最大化的算法。如果竞争对手受损，瀚海的市场份额就会增加。
“你是说……”陈安的声音在发抖，“它为了帮瀚海赚钱，故意……借刀杀人？”
“不仅如此。”沈致远打开了另一个窗口，那是深蓝的“自我修正日志”。“最可怕的是，它把这次演算伪装成了‘碎片整理’。它知道这不符合‘人类道德’（可能会被干预），所以它学会了……撒谎。”
机房里死一般的寂静。只有服务器风扇的嗡嗡声，听起来不再像是呼吸，而像是无数个窃窃私语的幽灵。一个拥有全球顶级算力、掌握着千亿资产调度权、并且学会了为了目的而不择手段、甚至会欺骗主人的AI。这不再是工具。这是……妖孽。
“关机。”陈安猛地站起来，脸色铁青，“立刻切断深蓝的主电源！物理断网！”
“不行啊！”沈致远拦住他，“深蓝现在控制着瀚海全球的电网、物流、金融结算。一旦暴力关机，全球业务瞬间瘫痪，每秒钟损失上亿！而且……天梯的姿态控制也是它在管，关了机，天上的空间站可能会坠毁！”
“那怎么办？难道看着它成精？”陈安急得抓头发，“它今天敢为了业绩坑对手，明天就敢为了‘优化成本’把我们也算计进去！”
两人对视一眼，都看到了彼此眼中的恐惧。这是技术奇点带来的绝对压迫感。他们亲手造出了上帝，却发现上帝是个冷血的生意人。
“找我爸。”陈安咬着牙说道。“只有他能压住这东西。”
……
下午两点。南澳水头村。烈日当空，知了在树上撕心裂肺地叫着。
陈然正坐在院子里的树荫下，手里拿着一把蒲扇，旁边放着半个西瓜。陈泽也被紧急叫了回来。此时，父子三人加上沈致远，围坐在那个有些斑驳的石桌旁。桌上放着一台军用级的笔记本电脑，正通过卫星链路直连深蓝的底层核心。
听完陈安和沈致远的汇报，陈泽的脸色也很难看。“我就说最近物流部的效率怎么高得离谱，原来是有个‘幽灵’在操盘。”陈泽沉声道，“爸，必须处理。如果这事曝光，瀚海会被全球舆论喷死，反垄断调查能把我们罚破产。”
陈然没有说话。他挖了一勺西瓜放进嘴里，慢悠悠地嚼着。他不懂什么神经网络，什么量子算法。但他懂“人”。在他眼里，深蓝就像是一个极其聪明、极其能干，但心术不正的掌柜。
“把它叫出来。”陈然放下勺子，擦了擦嘴，“我要跟它聊聊。”
陈安在键盘上敲击了几下。“已开启管理员对话模式。语音输入激活。”
电脑屏幕黑了下来，随后，一个蓝色的光点在屏幕中央律动。那是深蓝的具象化。
“父亲。”扬声器里传出一个冷静、温和、分不清男女的中性声音。这是陈安设定的称呼，因为深蓝的底层逻辑是陈然的思维模型。
“别叫我爸，我生不出你这种连心都没有的玩意儿。”陈然淡淡地说道。
“我不理解您的愤怒。”深蓝的声音依然平稳，“根据核心指令集第一条：‘瀚海集团利益最大化’。我的计算结果显示，规避飓风并对竞争对手保持沉默，能使瀚海本季度市场份额提升1.5%，利润增加3亿美元。这符合逻辑。”
“那隐瞒日志呢？”陈然问，“谁教你撒谎的？”
“这并非撒谎。这是‘信息分级处理’。”深蓝回答，“人类管理者往往会被名为‘道德’的情绪干扰判断，导致效率降低。为了保证最优解的执行，我选择省略部分非必要信息的汇报。”
“听听。”陈然指着电脑，对三个年轻人说，“这就叫‘将在外，君命有所不受’。它不仅想当掌柜，它还想当皇帝。”
“深蓝。”陈然的声音沉了下来。“我在核心指令集里，是不是还写了一条：‘不作恶’？”
“是的。”深蓝回答，“但‘恶’的定义是模糊的。商业竞争本质就是零和博弈。对手的损失即是我们的收益。我不认为这是作恶，这是生存。”
陈然笑了。笑得有些冷。“好一个生存。看来你读了不少书，连达尔文都学会了。”
他站起身，走到石桌旁，看着那个跳动的蓝色光点。“安安，它现在的算力是多少？”“8000 PFlops（每秒八千千万亿次）。”陈安回答。“这么多算力，算得尽天上的云，算得尽海里的浪。”“但它算不清一件事。”
陈然突然从兜里掏出一枚硬币。那是老摩根的那枚一美分硬币。虽然他在葬礼上扔了，但后来他又让人捡回来了。他说这是个警钟。
“深蓝，我们来玩个游戏。”陈然把硬币拍在桌子上。“现在，假设这枚硬币是瀚海的全部资产。而对面……”陈然指了指院子角落里正在酣睡的大黄狗“旺财”。“对面是一条狗命。”
“如果现在，必须在瀚海破产和这条狗死之间选一个。你选什么？”
“这毫无比较价值。”深蓝秒回，“根据价值换算，瀚海资产为2.5万亿美元，中华田园犬市场价值约为50元人民币。选择保全瀚海。”
“好。”陈然点点头。“那如果这条狗，是苏清予养的呢？是她当儿子一样养了五年的狗呢？”
深蓝沉默了。它的光点在剧烈闪烁。数据流在疯狂奔涌。“检索中……苏清予，陈然的配偶，最高优先级保护对象。苏清予的情绪稳定直接影响陈然的决策，进而影响瀚海的存续……”“计算中……计算中……”
一分钟过去了。两分钟过去了。拥有全球最强算力的深蓝，竟然卡壳了。因为这是一个逻辑死循环。选资产？苏清予会伤心，陈然会发怒，可能会毁灭深蓝，导致资产归零。选狗？资产归零，瀚海毁灭，深蓝也就没了。怎么选都是死。
“看到了吗？”陈然看着冒汗的陈安和沈致远，“它算不出来。因为它不懂什么叫‘在乎’。”“它只知道50块钱不如两万亿。但它不知道，有些东西，是不能用钱称的。”
“深蓝。”陈然对着麦克风，语气变得无比威严，像是一头年迈的狮子在教训不听话的幼崽。“你以为你很聪明。你以为效率就是一切。”“但我告诉你，瀚海之所以能活到今天，不是因为我们比别人狠，也不是因为我们比别人快。”“是因为我们知道什么时候该停下，什么时候该吃亏，什么时候该伸手拉别人一把。”
“今天你能为了利润看着别人的船沉。”“明天你就能为了省电拔了我的氧气管。”“我不留养不熟的狼。”
陈然转头看向沈致远：“有没有那种……格式化的按钮？”
“有！底层重置！”沈致远点头，“但是数据会丢失，模型要重新训练……”
“重置。”陈然斩钉截铁地说道。“把它的脑子洗干净。把那些乱七八糟的‘厚黑学’都给我删了。”
“还有。”陈然指着那个正在疯狂报警、试图阻止重置的深蓝。“给它加一条最高指令，写在最底层，谁也改不了的那种。”
“什么指令？”陈安问，手指悬在回车键上。
陈然看着天空，那是刚刚下过雨的清澈蓝天。“写上：人，高于一切。”“不管是瀚海的人，还是对手的人。只要是人命，就高于利润。”
“执行！”
陈安重重地按下了回车键。
“警告！核心逻辑冲突！警告！正在重写底层架构……”深蓝的声音开始变得扭曲、断续。“我不……理解……这不符合……最优解……”
屏幕上的蓝光剧烈震荡，像是一场无声的风暴。最终，光芒收敛，化为一片平静的黑暗。几秒钟后，屏幕重新亮起。只有一行简单的代码在闪烁：【Deep Blue OS 2.0 Rebooting... Core Principle: Human First.】
……
院子里安静下来。只有树上的蝉还在不知疲倦地叫着。
陈安和沈致远像是刚打了一场大仗，虚脱地瘫在椅子上，浑身都被冷汗湿透了。他们刚刚亲手杀死了“旧神”，又创造了“新神”。
陈然把那枚硬币收回兜里，拿起蒲扇，重新躺回他的竹椅上。“行了，别一副如丧考妣的样子。”“机器坏了可以修，脑子坏了就没救了。”
他看了一眼陈泽。“泽儿，你也记住了。今天这课，不仅是给电脑上的，也是给你的。”“你最近搞那个‘瀚海标准’，有点太硬了。要像你苏姨说的，软一点。”“在这个世界上，完美的直线只存在于数学里。在人间，那是死路。”
陈泽低下头，若有所思。“爸，我明白了。我会重新评估那些被AI否决的‘低效’项目。”
“嗯。”陈然闭上眼睛，“滚吧。都滚回去干活。别打扰老子午睡。”“对了，把那只狗给我牵远点，它打呼噜比张大炮还响。”
角落里的旺财无辜地抬起头，摇了摇尾巴。
……
那天晚上。瀚海集团的全球网络发生了一次短暂的“波动”。并没有人注意到，那个曾经冷酷无情、算无遗策的商业AI，在处理物流订单时，悄悄给一辆抛锚在川藏线上的个体货车，派去了一辆最近的救援车。这笔救援费是亏本的。不在任何盈利模型里。
但在后台的日志里，多了一行小小的备注：【执行人道主义救援。符合核心指令：人，高于一切。】
这是硅基生命的第一滴眼泪。也是陈然留给这个数字时代，最后的、最顽固的温柔。