跳到正文
SpruceNovel
封面加载中…
小说

AI纪元:人类价值反击战

共 31 章

《AI纪元:人类价值反击战》小说。查看作品信息、章节目录和阅读内容。

正在阅读 · 第十五章:不信任动议

第十五章:不信任动议

上午9点整,全球经济协调委员会(GECC)东亚区总部,第300层环形会议厅。

西村佑介坐在技术人员旁听席的最后一排,这个位置能看到整个会场的全貌,又不至于太显眼。会议厅的设计极具未来感:环形布局,中央是全息投影柱,周围三层逐渐升高的座位席呈扇形展开。墙面是自适应透明材料,此刻显示着东京湾的实景,仿佛悬浮在城市上空。

但佑介的注意力全在面前平板的议程上。

“GCC文化子系统重大更新提案(CUL-2035-11-Rev7)最终审议会”

议程第一条:“提案概述与目标阐述(发言人:远藤博士)”。

第二条:“技术可行性验证报告(发言人:提案技术组)”。

第三条:“伦理与社会影响评估(发言人:伦理委员会代表)”。

第四条:“表决前质询”。

第五条:“最终表决”。

他的目光落在第三条的发言人名字上:“伦理委员会代表——渡边玲子?”

渡边玲子?佐藤莉娜群组里的那个渡边?她父亲在泡沫破裂后自杀的那个?

佑介迅速查询参会者名单。确实,伦理委员会的七人代表中,有一位外部特邀委员:渡边玲子,身份标注为“社会心理学者、历史创伤研究顾问”。

这不是巧合。

他给莉娜发了条加密信息:“渡边玲子在会议现场,作为伦理委员。你知道这事吗?”

几秒后回复到达:“昨晚才知道。她说接到了正式邀请,如果不来,她的‘情绪波动’记录会被用于限制她的其他社会活动。她决定来,但准备在会上提出质疑。”

“太危险了。那些委员都是精心挑选的——”

“她说父亲沉默了一辈子,她不想再沉默。”莉娜的信息简短,“我在会场外。如果出事,至少有人知道她为什么在这里。”

会场外?

佑介看向透明墙面外的景象。大楼底部广场上,隐约能看到一小群人聚集,举着标语牌。距离太远看不清内容,但其中一块牌子的反光让他想起莉娜的浅色外套。

她真的来了。

上午9点15分,会议开始。

远藤博士站在中央发言台,全息投影在他身后展开提案的核心框架图。“诸位同仁,今天审议的提案,代表着GCC系统在文化领域的一次重要进化。过去三十年的经验告诉我们,纯粹的市场化内容筛选虽然高效,但无法完全保护用户免受有害信息的心理伤害。”

他调出数据图表:“根据文化神经监控部的最新研究,未经适当情感缓冲的历史创伤内容,可能对3.7%的用户造成持续性心理影响,对另外11.2%的用户产生短期情绪困扰。这些影响会降低用户的社会参与度、工作效率,甚至增加公共医疗系统的负担。”

图表很漂亮,曲线平滑,数字精确到小数点后两位。

“提案的核心创新在于‘动态情感适配’机制。”远藤继续,“系统将根据用户的实时心理状态,智能调整内容的情感强度。比如,当用户处于脆弱期时,系统会自动提供更多积极、建设性的内容;当用户心理状态稳定时,则可以接触更全面、更复杂的历史叙述。”

听起来无懈可击。

佑介低头看着自己的平板,上面显示着提案的完整技术文档。在第七附录的深处,有一个不起眼的子条款:“为保障适配精度,系统将建立临时性原始神经数据访问通道,数据使用后立即销毁,不留存任何个人标识信息。”

“临时性”。

“立即销毁”。

“不留存个人标识”。

每个词都经过精心选择,既满足法律合规要求,又为实际操作留下巨大空间。

临时可以是多久?立即是多快?不留存个人标识,但留存行为模式数据,算不算违规?

他知道答案:系统会将这些数据“匿名化”处理后,用于训练更精准的算法。而匿名化,在今天的算力面前,往往只是一层薄纱。

上午9点40分,会场外的广场。

佐藤莉娜站在大约三十人的小团体边缘,没有举标语,只是安静地看着大楼入口。这个团体是自发聚集的,成员复杂:有几个像她这样的年轻创作者,几位白发苍苍的老人,还有几个穿着朴素的上班族。标语内容也各异:“记忆不能被算法过滤”“情感自主权是人权”“历史需要完整面孔”。

没有统一的组织者,更像是一群被同一个议题吸引而来的陌生人。

一个戴着口罩的中年女人走到莉娜身边,低声说:“你是佐藤莉娜?《泡沫记忆》的作者?”

莉娜警觉地点头。

“渡边玲子让我转告你。”女人声音压得更低,“她在伦理委员会的预备会议上,看到了提案的测试数据来源列表。你的作品被标记为‘负面样本-高纯度创伤’,用于训练情感识别算法。更糟的是,数据采集时间显示……是在你的私密放映会之前。”

莉娜感觉全身血液变冷。“之前?”

“数据时间戳是放映会前三天。”女人说,“也就是说,他们在你完成作品前,就已经通过某种方式获取了原始神经信号。这不仅是非法录制,还是预谋的。”

森山奶奶椅子下的那个设备。它录制了完整的体验过程。

但时间戳显示在放映会之前?

除非……那个设备根本不是“棱镜”在放映会前安装的。而是更早,在她第一次进入玩具店地下室时就已经在那里了。他们一直在录制她的创作过程,包括那些试验片段、情绪调试、甚至她与中岛他们的讨论。

她的所有努力,所有痛苦,所有试图捕捉的真实,都成了系统优化自身控制的养料。

“她还说了什么?”莉娜声音发干。

“她说今天会当众质问数据来源的合法性。但她需要证据佐证。”女人递给莉娜一个微型存储器,“这是她整理的内部会议摘要,有数据时间戳和采集方式描述。她说如果她质问后被驱逐,希望有人能继续追问。”

莉娜接过存储器,握在手心,塑料外壳硌得生疼。

“为什么选我?”

“因为你也是受害者。”女人看着大楼,“而且你正在做的作品,本身就是最有力的质疑——如果历史需要被‘适配’,那还是历史吗?”

她说完就退入人群,消失了。

莉娜抬头望向三百层高的会议厅外墙。在某个她看不见的房间里,渡边玲子正坐在长桌旁,准备挑战一整个系统。

而她站在这里,握着一枚可能毫无用处的存储器。

上午10点20分,技术可行性报告结束。

提案技术组的发言人是个年轻女性,语速很快,充满自信。她展示了算法如何精准识别132种细微情绪状态,如何实时调整内容参数,以及如何在99.3%的测试案例中“成功预防了潜在的负面心理反应”。

“我们特别感谢那些为测试提供数据的创作者和体验者。”她微笑着说,“正是他们的大胆探索,让我们能够理解人类情感的复杂光谱,并设计出更人性化的保护机制。”

佑介注意到,她没有提数据获取方式,也没有提“提供数据”是否是自愿的。

质询环节开始。

最初的几个问题都很温和:算法能耗、系统兼容性、误判率改进计划。委员们像是已经达成了默契,只问技术,不问伦理。

直到渡边玲子举手。

她的座位在伦理委员席的最外侧,起身时动作有些僵硬,但声音清晰:“我想问关于测试数据来源的伦理合规问题。”

会场安静了一瞬。

主持人点头:“请讲。”

“在提案附录中,我看到测试数据包括一系列标记为‘非公开创作项目’的神经信号记录。”渡边翻开面前的纸质文件——在这个数字化的会场里,这个动作显得格外突兀,“这些数据的采集时间戳显示,它们在创作者正式发布或甚至完成作品前,就已经被系统获取。我想问:这种采集是否获得了创作者的知情同意?是否符合GCC个人隐私保护基本协议第7条第3款?”

技术组发言人看向远藤博士。远藤接过话筒,表情平静。

“感谢渡边委员的问题。所有用于系统测试的数据,都严格遵守了相关协议。部分早期测试数据来源于‘匿名化历史档案库’,这些数据在采集时适用的法律框架与今天有所不同,但都已通过伦理委员会的追溯审查。”

完美的官僚式回答。

“那么‘匿名化’的具体方法是什么?”渡边追问,“根据时间戳,这些数据包含高度特定的创作过程神经信号,即使移除个人标识,创作内容本身的独特性仍可能反向定位到创作者。这是否构成事实上的隐私侵犯?”

会场里响起低低的议论声。

远藤保持微笑:“我们的匿名化流程采用最新的差分隐私技术,确保任何单一条数据都无法关联到具体个人。当然,如果渡边委员对技术细节感兴趣,会后我们可以提供完整的技术白皮书。”

“我更关心的是原则问题。”渡边没有退缩,“如果系统可以在创作者不知情的情况下,录制并分析其创作过程,那么‘创作自由’是否变成了一个虚假承诺?更进一步,如果系统用这些数据来训练情感管理算法,是否意味着创作者的努力,最终被用来限制观众的情感自由?”

问题直指核心。

几个委员交换了眼神。佑介看到,远藤的手指在发言台下轻轻敲击——那是某种信号吗?

“系统保护的是广大用户的福祉。”远藤的回答变得严肃,“创作者的自由不能以牺牲公众心理健康为代价。我们认为,适度的透明和监管,是数字时代文化生产的必要组成部分。”

“所以‘适度’的标准由谁决定?系统自身?”渡边提高了声音,“我父亲在泡沫破裂后自杀,他留下的遗书里有一句话:‘当所有人都告诉你应该怎么感受时,你已经失去了感受的能力。’今天这个提案,不正是要把这种‘告诉人们怎么感受’的机制制度化吗?”

会场彻底安静了。

渡边玲子站在那里,手中握着父亲遗书的复印件,纸的边缘在颤抖。

主持人清了清嗓子:“渡边委员,请注意发言的情绪化倾向。我们理解您有个人经历,但会议需要基于理性和数据——”

“我的数据在这里!”渡边举起遗书,“一个人因为无法承受被系统定义的价值标准而选择死亡,这是最残酷的数据!如果今天的系统还要进一步定义我们应该如何感受历史、如何感受痛苦,那和当年那些告诉他‘你的努力没有价值’的银行职员,有什么本质区别?”

她说得太多了。

佑介看到,安全人员已经出现在会场侧门。

“渡边委员。”远藤的声音冷下来,“您的个人经历值得同情,但不应影响对系统提案的客观评估。如果您无法保持专业态度,我建议您暂时休息。”

“我不需要休息。”渡边直视着他,“我需要答案。你们敢不敢公开所有测试数据的原始采集记录?敢不敢让数据涉及的创作者来现场作证?敢不敢承认,这个提案的第一步,是践踏了最基本的知情同意原则?”

主持人按下静音钮,渡边的话筒被切断。

她的声音还在继续,但只有周围几个人能听到。她挥舞着父亲遗书的复印件,眼泪终于流下来,但脸上是愤怒而非悲伤。

两个安全人员走到她身边,低声说了什么。渡边摇头,拒绝离开。

僵持持续了半分钟。

最终,她收起遗书,自己走出了会场。没有拉扯,没有冲突,只是沉默地离开。

但经过旁听席时,她看了佑介一眼,眼神复杂——有失望,有警告,还有一丝……托付?

佑介低下头,打开平板。

加密频道里,莉娜发来信息:“渡边被带出来了。状态稳定,但有两个人‘陪同’她离开大楼。我拍下了他们的脸。”

“别跟。”佑介回复,“他们可能正等着有人跟。”

“我知道。但有人在跟——我看到直人也在广场,他在用老式相机拍照。”

直人?

上午11点,会场外广场角落。

高桥直人确实在拍照,用的是一台1990年代生产的机械胶片相机。这是从工坊仓库里翻出来的旧货,没有数字传感器,没有GPS定位,只有纯粹的光学成像和化学底片。

田中给他的临时任务:“如果今天会场外有事件,用胶片记录下来。数字影像太容易被篡改或删除,胶片至少能留下物理证据。”

直人没问证据要给谁用,也没问为什么选他。互助协议签署后,这是第一个“优先需求”,他没有理由拒绝。

他拍下了渡边玲子被两人陪同离开大楼的场景,拍下了广场上零散的抗议者,也拍下了大楼入口处增加的安保人员。

就在他换胶卷时,一个穿着灰色西装的男人走近。

“先生,这里禁止未经授权的摄影。”男人声音礼貌,但手已经伸向相机。

直人后退一步:“公共广场,我有权拍摄。”

“但您拍摄的对象涉及GCC总部安保区域,可能涉及敏感信息。”男人出示证件——经济安全监察局,“请配合检查设备。”

直人把相机抱在胸前。“这是私人财产。要检查需要搜查令。”

“我们可以当场申请电子搜查令,大约需要三分钟。”男人打开平板,“但如果您现在配合,可以避免不必要的延误。”

拖延战术。

直人知道,三分钟足够他们远程擦除所有数字设备数据,但胶片相机……他们需要物理夺取底片。

他看了眼广场对面。莉娜站在人群边缘,正看向这边。

不能在这里冲突。

他慢慢交出相机。“底片还没拍完,强行打开会曝光。”

“我们会专业处理。”男人接过相机,动作熟练地检查,“请出示身份证明。”

直人递出身份证。男人用设备扫描,屏幕上跳出他的基本信息,包括“风险评级:观察中”。

“高桥先生,您不是文化领域的从业者,为何今天来这里摄影?”

“个人兴趣。”直人说,“我对建筑摄影有兴趣,这座大楼是经典设计。”

男人看了他几秒,然后归还身份证。“相机我们需要带回检查,确认没有敏感内容后会归还。请留下联系方式。”

直人留下一个假的离线通讯码——田中医嘱准备的。

男人离开后,直人走到广场另一侧,从外套内袋取出另一台更小的胶片相机——双机备份,也是田中的建议。

他找到莉娜,低声说:“你是佐藤莉娜?渡边女士让我转告你,她在里面提到了你的作品被非法采集数据的事。会场里有个年轻工程师叫西村佑介,他可能能帮你。”

莉娜惊讶地看着他。“你怎么知道——”

“田中说的。他说如果今天出事,你们三个应该互相认识。”直人快速说道,“我时间不多,他们可能还会回来。这个给你。”

他塞给莉娜一个小金属盒,大小像一盒口香糖。

“是什么?”

“离线存储器,但需要特殊读卡器。”直人说,“里面有我今天拍的所有照片的索引。如果我拿不回相机,至少照片内容还在。读卡器在……”

他报了一个地址,港区某家老式照相馆。

“为什么给我?”

“因为渡边玲子的数据在你这里,我的照片可能是佐证。”直人看了眼大楼,“而且我觉得,我们三个的故事,可能才刚刚开始有交集。”

他说完就转身离开,汇入人群。

莉娜握着小金属盒,看着他的背影。

她打开加密频道,给佑介发信息:“我见到高桥直人了。他说你叫西村佑介。”

几秒后回复:“对。提案表决马上开始,结果可能很不乐观。你有地方暂时安全吗?”

“有。”

“会议结束后,我们见一面。直人也来。地点我发给你。”

莉娜看着这行字。

三个被系统标记的人,要在系统总部附近见面。

疯狂。

但也许是必要的疯狂。

上午11点30分,提案进入表决前最后质询。

经过渡边玲子的插曲后,会场气氛变得微妙。几个原本可能保持中立的委员,现在显得犹豫。但远藤博士迅速掌控了局面,他安排了几位重量级委员发言,强调提案的“必要性”和“紧迫性”。

一位老经济学家说:“情感不稳定是社会效率的敌人。我们不能因为对完美的苛求,就放弃明显能改善大多数人福祉的工具。”

一位神经科学家展示了脑部扫描图:“未经管理的情感冲击,确实可能造成前额叶皮层功能暂时抑制,影响理性决策能力。系统的干预,本质上是一种认知健康保护。”

语言被精心消毒,问题被重新定义。

佑介看着表决倒计时:还有十五分钟。

他脚底的数据卡在发烫——松本留下的证据,足以动摇这一切。

但松本说要在“系统内部出现裂痕时释放”。

现在算裂痕吗?渡边玲子的质疑被压制,会议继续按剧本进行。

也许还不够。

也许要等提案通过,等更多人看到它如何实际运作,等不满积累到某个临界点。

但到那时,系统已经获得了新的权力——访问神经原始数据的权力。

一旦获得,就再难收回。

他的平板震动,一条来自未知号码的信息:

“松本让我转告你:如果今天提案通过,系统将在72小时内启动第一阶段的神经数据试点采集。试点名单包括:佐藤莉娜、渡边玲子、高桥直人的妻子和儿子。理由:‘关联人员情感风险评估’。他们需要数据来完善算法,而最敏感的人能提供最极端的数据样本。”

佑介握紧平板。

试点采集。以“风险评估”为名,合法获取神经数据。

然后这些数据会被用于训练算法,算法会被用于管理更多人。

完美的闭环。

而他们三个,以及他们关心的人,会成为这个闭环的首批燃料。

倒计时:十分钟。

佑介站起来,离开旁听席。

他走到会场边缘的技术控制台——那里有连接中央投影的备用接口。控制台前的技术人员看了他一眼,认出他是协议维护中心的人,没有阻拦。

“需要帮忙吗?”技术人员问。

“系统检测到投影有轻微延迟,我来做个快速诊断。”佑介说谎时心跳如鼓,但手指稳定。

他蹲下,假装检查线路,实际上将鞋垫下的数据卡插入控制台的一个隐藏扩展槽——这是松本在设计这个控制台时留下的后门,只有几个人知道。

数据卡被读取。

控制台的主屏幕上,提案演示文稿突然闪烁,然后被一份全新的文件覆盖。

标题:“关于CUL-2035-11-Rev7提案测试数据非法采集的完整证据链”。

第一页就是时间轴:莉娜作品的神经信号录制时间戳(早于作品完成)、录制设备编号(GCC-CNM-0073)、设备安装记录(玩具店地下室,未经授权进入)。

第二页是内部通信记录,显示远藤博士指示“加速数据采集以赶上提案审议”。

第三页是试点采集名单,佐藤莉娜、渡边玲子等人的名字赫然在列。

会场哗然。

远藤博士脸色铁青:“这是黑客攻击!切断投影!”

但佑介已经设定了文件自动滚动播放,并锁定了控制台物理开关。技术人员尝试强制关机,但系统没有响应——松本的后门程序在生效。

文件继续播放,直到第七页,那是“棱镜”行动的简要记录,包括渔市事件的设计、对三人的压力测试、以及最终的“修剪”预案。

会场彻底混乱。

委员们站起来,有人质问,有人记录,有人试图离开。

安保人员冲向控制台。

佑介后退,混入正在离场的人群。

离开会场前,他最后看了一眼中央投影。文件定格在最后一页,松本的亲笔签名注释:

“系统需要透明度,尤其是对那些声称要保护我们的人。如果连数据来源都不能诚实,我们如何相信他们承诺的保护?”

中午12点07分,大楼外。

佑介快步走向约定的见面地点——三个街区外的一家旧书店。他听到身后有脚步声,但没有回头。

转过街角时,他看到了莉娜和直人。两人站在书店橱窗前,装作在看旧书。

佑介走到他们身边,没有对视,低声说:“跟着我进书店,然后从后门离开。我们被跟踪了。”

三人先后进入书店。老板是个秃顶老人,看了他们一眼,朝后门方向微微点头。

后门通向一条狭窄的小巷。他们刚走出巷口,就看见两辆没有标识的车停在不远处。

“分开走。”直人说,“我有安全屋的地址,在——”

“不能去安全屋。”莉娜打断,“如果被跟踪,安全屋会暴露整个网络。各自回家,用离线方式联系。”

“怎么联系?”佑介问。

“用这个。”直人从口袋里掏出三个老式寻呼机——那是二十年前的通讯工具,只能接收数字代码信息,“田中给的。配对好了,频道固定。有急事就发约定的代码。”

他把寻呼机分给两人。

“代码表在我给你的金属盒里,莉娜。”直人说,“佑介的在你家门口的信箱,用这个钥匙打开。”他递给佑介一把物理钥匙。

简洁,原始,但难以被数字监控。

三人对视一眼,然后朝三个方向快步离开。

佑介回头看了一眼。那两辆车上的人已经下车,正在向书店靠近。

他拐进地铁站,消失在人群中。

下午1点,“棱镜”的地下室里,屏幕墙上显示着三个正在移动的光点——分别代表佑介、莉娜、直人的实时位置。

“他们分开了。”分析师说,“数据卡内容已被传播到至少三十名委员的私人设备,尽管我们第一时间启动了远程擦除,但无法确认是否有离线副本留存。提案审议已紧急中止,远藤博士被停职调查。”

“松本呢?”棱镜问。

“他拒绝了我们的保护性转移,坚持留在第七安全屋。他说:‘火已经点了,现在看它能照亮什么。’”

棱镜沉默地看着三个光点。

“撤销对他们的实时追踪。”他最终下令。

“撤销?但——”

“我们已经得到了最需要的数据:他们在压力下的协作模式、应对突发危机的策略、以及选择信任的阈值。”棱镜关闭追踪界面,“继续追踪会让他们彻底进入地下,那样反而不可控。让他们以为自己逃脱了,然后观察他们如何利用这份自由。”

“提案怎么办?”

“会有一个修正版,增加数据采集的透明度条款,但不改变核心机制。”棱镜走向出口,“系统总是这样:每次丑闻后,增加一层监督,但本质不变。因为真正的改变,需要的不是技术升级,是权力重构。”

他停在门边。

“而权力重构,从来不是温和的。”

门滑开,他离开地下室。

屏幕墙上,三个光点继续移动,逐渐消失在监控网络的边缘。

自由,有时只是更复杂实验的一部分。

而实验,才刚刚进入第二阶段。