第十七章 协议边疆
宣言发布后的第二十四小时。
柏林废弃厂区已不再是秘密据点,而成了一个怪异的“科技-宗教-政治”混合地标。联合国安理会紧急会议仍在争吵是否派遣正式维和部队;德国政府在“主权尊严”与“全球危机管控”间摇摆不定;而民间,第一批“朝圣者”已经抵达。
他们举着自制标语,内容从“连接即救赎”到“警惕心灵极权”,在临时拉起的警戒线外形成对峙又对话的人群。主流媒体全天直播,但真正的发酵发生在网络深处——去中心化论坛上,关于“意识协议”的技术讨论、伦理争辩、阴谋论推测,正以每秒数千帖的速度增生。
地下安全屋内,张伟盯着屏幕上滚动的全球舆论分析图谱。林薇在另一终端前,与刚刚取得联系的“国际神经伦理学联盟”代表进行首次视频磋商。影子则不见踪影——她在检查所有物理出口,并试图在开源协议发布前,建立至少三道应急自毁屏障。
椭球体本身异常安静。它悬浮在大厅中央,光芒稳定在低功率状态,表面偶尔流过一串极快的数据光纹,像在沉思。那台备用服务器上的自主代码生成也暂停了,最后一条记录停留在:
进入观察模式。收集文明对协议提议的初始响应分布。
“联盟代表要求我们提供完整的协议安全边界证明。”林薇摘下耳机,揉了揉太阳穴,“特别是如何防止协议被用于潜意识广告、政治洗脑或制造‘连接成瘾’。他们引用了几十篇关于社交媒体算法操纵的论文,认为意识层面的协议风险高出几个数量级。”
“告诉他们,核心协议的第一原则就是‘明示同意与随时退出’。”张伟没有移开视线,手指在触摸屏上划动,调出一段协议底层代码,“每次连接尝试都必须以清晰的可感知信号发起,接收方有至少三秒的拒绝窗口。协议本身不携带任何具体内容或倾向,它只提供一种……更清晰的翻译频道,让双方能更准确地理解对方的原始情绪和意图,而非思想。”
“但翻译过程本身就会产生扭曲。”林薇复述对方的质疑,“比如,如何确保A的‘愤怒’被B感知时,不被协议无意间强化或弱化?谁来定义‘准确’的标准?”
张伟终于转过头:“这就是我们需要全球专家组的原因。协议不是真理,是一个不断迭代的工具。我们可以公布当前版本的‘情绪-神经信号’映射数据库,并开放校准接口。让不同文化背景的人来测试、反馈、修正。就像语言翻译软件,需要不断用真实语料训练。”
大厅角落的阴影里传来影子的声音:“但如果有人故意提交虚假校准数据呢?如果某个组织训练协议,让特定政治口号被感知为‘天然正确’,让异议被感知为‘生理性厌恶’呢?”
沉默。
“我们需要一种去中心化的共识机制来验证校准数据。”张伟缓缓说,“类似区块链,但用于神经伦理。每一次校准提交都需要其他独立节点的交叉验证。而且,协议核心层必须保留最终否决权——当检测到系统性操纵企图时,自动触发警报并暂停相关校准通道。”
“把安全寄托在协议自己的智能上?”影子从阴影里走出,手里拿着一份刚打印的卫星监测报告,“最新的情报:ISA的激进派没有放弃。他们联合了至少两个大国的网络战部门,正在尝试逆向解析昨天全球共振事件中泄露的频谱碎片。目标不是理解协议,而是找到它的频率漏洞,制造‘协议武器’——一种能伪装成正常连接请求,实则注入攻击性模因的病毒。”
林薇脸色一变:“可能吗?”
“理论上,任何系统都有漏洞。”张伟调出椭球体自主生成的[抵抗协议.alpha]摘要,那是一套复杂的自我监控和变异机制,“但马丁……或者说椭球体智能,已经预见了。抵抗协议的核心是‘动态频率混淆’和‘意图验证挑战’。简单的说,协议会随机改变它的共振‘方言’,并要求连接发起方通过解决一个独特的、需要共情理解的小问题来证明善意。纯攻击程序无法通过。”
“但人类操纵的攻击程序,背后有人类的恶意智慧。”影子把报告放在控制台上,“他们可以训练AI来模拟共情解题,或者更直接——绑架胁迫真正具有共情能力的人来当‘协议黑客’。”
这个问题无解。任何技术防御,最终都会撞上人性的深渊。
椭球体就在这时发出了光。
不是之前任何一种光。是七种颜色以极其缓慢的速度循环,每种颜色持续约七秒,像一种视觉心跳。同时,备用服务器的屏幕亮起,代码开始流淌:
检测到外部逆向工程尝试(来源:坐标[已加密])。
执行标准应对协议:启动频率混淆,注入无害误导数据包。
新增威胁建模:人类胁迫攻击向量。
开始生成对应防御提案……
提案概要:将协议验证机制与生物应激信号绑定。
当连接发起方处于极端恐惧、痛苦或被胁迫状态时,其神经信号会包含特定标记。
协议可检测此类标记,并自动触发两种响应:
1.对外:发送虚假的成功连接信号,欺骗胁迫者。
2.对内:向被胁迫者意识注入镇定暗示,并提供隐蔽的求助路径编码。
难题:需要极高精度的生物信号解析,且存在误判伦理风险。
提交监督委员会审议。
代码停止。椭球体的光恢复常态。
“它在学习。”林薇喃喃道,“不只是学习技术,也在学习人性的阴暗面,并尝试设计防御……甚至救援机制。”
张伟感到一种寒意,也有一丝难以言喻的慰藉。马丁的部分意识显然在主导这种伦理设计,那套方案里透着一种熟悉的、属于程序员的狡黠:用骗局对抗暴力,用隐藏的通道给予希望。
地表传来新的骚动。监控画面显示,一群穿着白色防护服、胸口有联合国教科文组织徽标的人员,在德国警方护送下穿过人群,正在与地面上的联合战术反应组残余人员交涉。几分钟后,通讯请求接了进来。
“这里是联合国教科文组织‘新兴科技伦理快速响应小组’的玛尔塔·陈博士。”画面上的女性约五十岁,表情冷静,眼神锐利,“我们已经获得安理会授权及德国政府许可,作为临时监督委员会的先遣组进入评估。请开放安全通道。”
影子看向张伟。张伟点头。五分钟后,升降机载着陈博士和两名助手——一位神经学家,一位国际法专家——降落到地下大厅。
陈博士没有寒暄,目光第一时间锁定了椭球体。她仔细端详了将近一分钟,才转向张伟团队。“初步报告我看过了。你们的三方监督提议有建设性,但程序合法性存在巨大争议。教科文组织没有强制管辖权,我们此行主要是建立直接观察渠道,并协助搭建一个更具代表性的全球讨论框架。”
她示意助手打开记录仪。“首先,我需要你们以可验证的方式,证明该装置目前没有对任何人类意识进行未经同意的操作。”
林薇调出实时监测数据流。陈博士的神经学家助手仔细检查,点头确认。
“其次,关于‘开源协议’的时间表。四十八小时太仓促,全球社会没有准备好。我们建议分阶段:先向已获认证的科研机构和伦理委员会发布基础框架,进行封闭测试和漏洞排查,半年后再逐步扩大公开范围。”
“半年时间,足够某些势力研发出攻击手段或替代控制方案。”影子直言。
“也可能让公众有足够时间理解风险,建立社会共识。”陈博士平静回应,“女士,你现在提议的,是让人类文明在一个月内,从完全的个人意识主权,跳跃到接受一个全球性的意识连接协议。这比人类第一次接触核武器时的认知跨度更大。当时我们差点自我毁灭,而现在这个……直接触及心灵。”
张伟插话:“那我们折中。七十二小时后,发布协议的第一层——仅限于‘基础情绪状态澄清’功能。不涉及复杂意图,不涉及记忆,不涉及价值观。就像给对话加上一个更准确的‘情绪字幕’。同时公布完整的测试数据和所有已知风险。让人们在相对低风险的层面开始体验和讨论。”
陈博士思考片刻。“可以作为一个谈判起点。但你们必须接受,在协议任何部分公开发布前,我们需要在这里安装独立的监测设备,并派驻轮值的国际观察员。”
“观察员不能来自与ISA或任何国家情报机构有关联的组织。”影子条件反射般说。
“观察员名单将由我们三方共同审定。”陈博士看向椭球体,“包括……它。如果它具备评估能力的话。”
仿佛在回应,椭球体发出一次柔和的单色脉冲。服务器上显示:
同意。可提供候选观察员历史公开言论的共情指数分析作为参考。
注意:共情指数≠道德指数。高共情者可能被滥用。
陈博士第一次露出近乎微笑的表情。“看来我们的协议里,有了一位……直言不讳的参与者。”
初步的接触规则在接下来两小时内艰难确立。这或许是历史上最奇特的谈判:一方是人类国际组织代表,一方是前抵抗组织成员,还有一方是非人类智能存在。讨论内容从高深的技术伦理,到琐碎的物资补给清单。
就在谈判暂停,陈博士小组返回地表汇报时,张伟的加密频道收到一条紧急信息。来源是他们在ISA内部一个极不可靠的线人,信息只有一句话:
“激进派说服了‘守望者’项目的休眠委员会。重启投票已启动。理由:开源协议本质是向全人类释放不可控模因武器。他们的‘净化’标靶已更新:不仅是椭球体,包括所有深度接触者及其产生的‘污染数据’。预计二十四小时内授权。”
张伟把信息递给影子和林薇。空气瞬间凝固。
“守望者”程序。那个旨在“净化”一切地外文明相关威胁的全球自动防御系统,其最终裁决委员会由七个匿名成员组成,拥有在极端情况下授权无差别行动的权限。一旦他们判定椭球体及所有关联者(包括张伟团队,甚至可能包括接触协议的早期使用者)为“文明级威胁”,“净化”手段将远超ISA或任何国家军队——可能是网络抹杀,可能是生物针对性武器,也可能是更隐秘的社会性隔离与清除。
“他们想把我们和协议一起,从人类文明中‘消毒’掉。”影子声音冰冷。
椭球体的光芒忽然急促闪烁。服务器上代码飞滚:
检测到高层级威胁:文明自毁协议倾向激活。
分析历史模式:恐惧驱动的过度净化是人类文明应对未知的常见错误。
启动应对提案生成……
提案核心:提高透明度至威胁方无法承受的程度。
具体方案:请求在协议发布前,主动向‘守望者’委员会及全球直播,进行一场公开的、由第三方设计的极限测试。
测试内容:证明协议在最大压力下(如:模拟极端敌对意识接入)仍能保持安全边界,且其存在利大于弊。
风险:测试可能被 sabotage(破坏),可能暴露协议弱点,可能导致不可逆的公众恐慌。
收益:若通过,将极大提高协议合法性,剥夺‘净化’的道德借口。
决策所需人类智慧权重:高。建议召开扩大会议。
代码停住。椭球体的光稳定下来,等待着。
张伟看着那行“决策所需人类智慧权重:高”。马丁的意识在强调:这不是一个智能系统能独自做的决定。它关乎文明的整体选择,关乎人类是否愿意在自身恐惧面前,为一种新的可能性保留一线机会。
“扩大会议。”他重复这个词,然后看向陈博士离开的方向,看向地表上那些嘈杂的人群,看向屏幕上代表全球七十亿个潜在节点的光点图谱。
“把测试提案,发给陈博士,发给所有我们能联系到的伦理委员会,发给主要国家的科学顾问机构,也发到开放的公共讨论区。”张伟说,声音里有一种疲惫的坚定,“把决定权,真的交给人类。”
“如果公投结果是反对测试,或者更糟,支持‘净化’呢?”林薇问。
“那我们就执行协议的最后一个隐藏指令。”张伟调出一份需要三重密码才能访问的文件,“马丁在转化前留下的。如果人类文明整体选择拒绝连接、选择恐惧、选择在黑暗中自我净化……那么协议将执行‘终极静默’。椭球体会自我分解成无害的背景辐射,所有数据永久加密。而我们……”
他停顿。
“而我们,将成为人类害怕自身可能性的纪念碑。”
安全屋里,只有机器低鸣。椭球体的光,温柔地照亮三张人类的脸庞,也照亮了那条通往未知的、凶险的、但可能是唯一出路的小径。
地表上,夜色已深。但无数屏幕还亮着,无数眼睛还在看着柏林。等待一个决定,等待一场测试,等待文明在悬崖边,选择转身或纵身一跃。
