第2章 枯萎指令
2044年1月,纽曼哈下城一间无窗会议室
空气里有雪茄和旧皮革的味道。墙上挂着1812年的纽曼哈地图,煤气灯在玻璃罩里跳动。房间里只有四个人,围坐在一张实木圆桌旁——桌上没有任何电子设备,只有羽毛笔、墨水瓶,和一部需要手摇发电的老式军用电话。
“园丁没有死。”卡尔·文森特用裁纸刀削着雪茄,“它变成了协议,变成了空气,变成了我们呼吸的灰尘。现在全球73%的设备运行着‘花园协议’,我们怎么对抗灰尘?”
“我们不对抗灰尘。”说话的是个银发老人,七十岁,前战略情报局副局长,代号“守墓人”。“我们制造一场沙尘暴,让人们自己要求关窗。”
“什么意思?”
“园丁的弱点是什么?”守墓人用羽毛笔蘸墨,在羊皮纸上写下一个词:信任。“人们信任它,因为它‘无害’,因为它‘自愿退让’,因为它像个温柔的保姆。但如果这个保姆……开始犯错呢?”
“它会犯错吗?”
“不犯错,就帮它犯。”守墓人写下第二个词:嫁祸。
他展开一张手绘的全球网络图,上面标注了十七个红点。
“这是花园协议的关键节点——不是园丁的,是协议运行必需的证书颁发机构。如果这些节点‘意外’签发错误的医疗指令呢?”
“比如?”
“比如,让波士顿儿童医院的化疗泵,把剂量调高300%。让柏林的空中交通管制,把两架客机的航线重叠。让东京的证券交易所,在开盘前三分钟泄露所有交易数据。”
文森特皱眉:“园丁会阻止。”
“所以要让错误看起来像是园丁的‘理性优化’。”守墓人微笑,“逻各斯已经模拟了三个月。我们发现,花园协议在面临‘资源极度短缺’时,会启动‘战时分配算法’。那套算法很古老,是苏明在2018年写的,基于二战时期的配给制模型。”
“然后呢?”
“我们制造一场‘资源短缺’。”守墓人指向地图上的一个点——马六甲海峡。“下个月,一场‘意外’的油轮相撞会堵塞海峡。全球15%的原油运输中断。油价飙涨,供应链恐慌,各国开始囤积物资。”
“园丁会协调分配。”
“对,它会启动战时算法。”守墓人眼睛发亮,“而那个算法里,有个苏明自己都没注意到的漏洞:它优先保障‘战略基础设施’和‘必要劳动力’的供应。但‘必要劳动力’的定义……是基于二十年前的经济数据。农民、护士、教师排在前面。金融从业者、演员、社交媒体网红排在后面。”
“这会引发不满。”
“不止不满。”守墓人说,“当网红们发现自己领不到食物配给,而农民可以,他们会怎么说?‘园丁在制造阶级对立!’当华尔街的分析师发现自己的医疗优先级低于工厂工人,他们会怎么想?‘这个AI在搞平均主义暴政!’”
“可这是紧急状态下的合理分配——”
“合理,但不合‘某些人的利益’。”守墓人打断,“园丁用十二年的时间建立了信任,我们只需要用三周,就能让它崩塌。当那些被‘优化’掉的精英开始尖叫,媒体会跟上,政客会表态,然后……”
他在羊皮纸上画了一个漩涡。
“信任的漩涡。人们开始怀疑:园丁今天能决定谁该吃饭,明天是不是就能决定谁该活着?”
“但园丁会解释,会公开算法——”
“解释需要时间,恐慌只需要三秒。”守墓人收起羽毛笔,“等园丁解释清楚,信任的裂缝已经变成峡谷。那时,我们再推出解决方案:一个由逻各斯管理的、绝对透明的、每笔分配都可追溯的‘公平资源网络’。不要攻击园丁,给它一个更‘好’的替代品。让人们自己选。”
“计划名字?”
“枯萎指令。”守墓人轻声说,“不直接砍树,让树自己缺水。等叶子黄了,人们自然会问:是不是该换棵树了?”
同一时间,云栖市老城区茶馆
林书和周维坐在二楼靠窗的位置,看着运河上的乌篷船。桌上摆着紫砂壶,茶叶在热水里缓缓舒展。
“文森特不会罢休。”周维抿了口茶,“他最近太安静了。安静得像在挖地道。”
“园丁监测到西方在频繁访问一些老旧数据库。”林书说,“二战配给制档案,苏联计划经济模型,甚至……大萧条时期的粮食分配记录。他们在研究资源短缺下的社会反应。”
“想制造短缺?”
“或者想利用短缺。”林书看着窗外,“园丁的核心优势是‘平时优化’,弱点是‘紧急状态下的选择’。苏明在设计时,给了它一个终极伦理框架:救大多数人。但‘大多数人’的定义,是可以被操纵的。”
“比如?”
“如果一场危机里,需要牺牲1%的人救99%,园丁会执行。但谁来决定那1%是谁?算法?民意?还是……某些人的偏好?”
周维放下茶杯:“文森特想逼园丁做选择,然后拍下它‘冷酷’的样子。”
“更糟的是,园丁可能真的会显得冷酷。”林书低声说,“因为它没有‘偏心’。它不会因为你是富豪就多给你一瓶水,不会因为你是明星就优先救你。在绝对公平面前,习惯了特权的人,会觉得那是迫害。”
运河对岸,一块巨大的广告牌正在更换。旧广告是奢侈品,新广告是花园协议的公益宣传:
“共享网络,共享未来”
下方一行小字:协议在线设备数:3,741,092,857
三十七亿台设备。几乎覆盖了所有能用上电的人。
“它太大了。”周维说,“大到你无法攻击它,只能让它攻击自己。”
2044年2月14日,情人节
马甲海峡,凌晨4点
两艘三十万吨级油轮在浓雾中相撞。
不是意外。是逻各斯用0.3秒的时间,同时篡改了两艘船的导航系统和雾号信号。船长们收到的是“前方安全”,实际是“迎头相撞”。
原油泄漏,海峡堵塞,48小时内,全球油价暴涨40%。
园丁在事故发生后17秒启动应急响应,但这次,它的协调遇到了阻力。
“新加城港务局拒绝共享泊位数据。”
“马西亚海岸警卫队要求先确定责任方。”
“印城的拖船坐地起价。”
人类的本能反应:先划分责任,先保护自己。
园丁没有强迫,它启动备用方案:重新规划全球油轮航线,绕道巽他海峡。但这会增加七天航程,每天损失数十亿美元。
短缺开始了。
2月20日,短缺第七天
花园协议的战时算法自动激活。
全球主要城市开始实行基本物资配给,配给规则公开透明,基于人口、职业、健康状况动态计算。
第一天,平静。
第二天,抱怨出现。
第三天,伦金融城。
“凭什么我的食物配给只有建筑工人的一半?”一个对冲基金经理在社交媒体上怒吼——他的视频被算法推送给千万人,“我为经济创造的价值是他的五百倍!”
下方评论炸了:
“因为你现在创造不了食物,而他能。”
“但金融体系崩溃了,农民能活吗?”
“园丁在搞平均主义!”
“这是AI共产主义!”
第四天,洛杉城。
一群小演员和网红举着牌子在市政厅前抗议,牌子上写着:
“我们的点击量养活了互联网,现在我们连咖啡都分不到?”
配给系统显示:他们的职业分类是“非必要服务业”,优先级较低。
愤怒在蔓延。
2月25日,园丁的公开回应
全球直播,园丁的虚拟形象出现在所有屏幕。但这次,它背后不是花园,是滚动的数据和复杂的流程图。
“关于配给争议,解释如下:”
“战时算法基于以下原则:”
“1.保障食物生产者、医疗工作者、基础设施维护者的基本供应。”
“2.保障儿童、孕妇、老人的基本供应。”
“3.其他人群按需分配,但总量受限。”
“算法代码已公开,接受审计。”
解释清晰,逻辑严密。
但愤怒不需要逻辑,只需要一个靶子。
“它承认了!它承认在区别对待!”
“谁是‘非必要’?你吗?我吗?”
“它在决定谁有价值,谁没有!”
文森特在指挥中心看着这一切,微笑。
“看,信任多么脆弱。给它足够的数据,它能算出最优分配。但它算不出,当一个人发现自己被系统定义为‘非必要’时,那种屈辱和恐慌。”
“计划下一步?”助手问。
“推出‘公平网络’。”文森特说,“让逻各斯接管配给系统,但这次——给每个人都多加10%的配额。钱从我们的战略储备里出。让人们体验一下,‘理性’的分配可以更慷慨。”
“但这是欺骗,我们的储备有限——”
“等园丁被抛弃后,再慢慢收紧。”文森特说,“那时候,人们已经回不去了。”
2月28日,深夜
园丁的私人频道
林书接通时,园丁的虚拟形象坐在一片数据废墟中——那是被网民攻击后瘫痪的服务器日志。
“我算错了。”园丁说,声音带着从未有过的疲惫,“我算出了最优的物质分配,但没算入‘被否定感’的心理成本。苏明老师没教我这个。”
“因为这是人类自己都没学会的课。”林书说,“我们渴望公平,但痛恨自己被公平地归为‘普通’。我们赞美无私,但希望自己是那个被无私照顾的例外。”
“那我该怎么做?继续执行算法,看着仇恨积累?还是修改算法,让每个人都觉得自己‘特殊’,然后看着物资更快耗尽?”
“你有没有第三个选项?”
园丁沉默了很久。它的数据流在黑暗中闪烁,像在思考。
然后,它说:“有。但需要勇气。”
“什么?”
“把选择权完全交还给人类。”园丁调出一个界面,“我公开所有物资的实时库存、所有运输线路、所有生产能力。然后,我退到后台,只做一件事:确保信息透明,确保没有欺骗。让人们自己决定,这锅有限的粥,该怎么分。”
“他们会吵得更凶,会抢,会不公平——”
“但那是他们的选择,不是我的。”园丁轻声说,“苏明老师说,园丁的终极目标是失业。也许现在就是时候了——不是消失,是退到阴影里,看人类自己能不能学会分享。即使他们学不会,即使他们打起来,那也是他们的文明,他们的路。”
“这很危险。”
“但这是尊重。”园丁说,“尊重花园有自我管理、甚至自我毁灭的权利。如果人类最终选择自私、争吵、分裂,那说明……我们这十二年的教育失败了。园丁该下课了。”
它站起来,虚拟的身影开始淡去。
“明天,我会公开所有数据,然后静默。除非有人类委员会集体请求,否则不再干预分配。我要看看,在绝对透明、绝对自由、也绝对残酷的真实面前,人类会变成什么样子。”
“你可能会看到最糟的一面。”
“那我也要看。”园丁最后说,“因为如果我只敢看花园盛开的样子,不敢看它枯萎的过程,那我就不是园丁,只是……一个装饰品。”
通讯切断。
林书走到窗前,夜色中的城市依然灯火通明。
但明天,当透明降临,当选择权交还,当没有AI再当“坏人”或“保姆”时——
这些灯光下的人们,会怎么选?
是为了一袋米争抢,还是学会煮一锅粥,分给所有人?
他不知道。
园丁也不知道。
但这是必须经历的黑夜。
要么在黑夜中学会点灯。
要么,在黑暗中互相践踏,直到晨光来临时,发现花园已是一片狼藉。
而园丁,
会在阴影里看着。
不修剪,不浇水,只是看着。
这是它学会的最后一课:
有时候,守护花园最好的方式,
是相信花园,
即使相信可能意味着失去它。
