第53章:权利
一大早,电话刚接通,姐的声音就传了过来。
“小默,”她没等我开口,“数据是我这边泄露的!一个实习生误把测试数据库传到了公开服务器,虽然只挂了十七分钟就被发现,但……已经被扒光了!”
她顿了顿,我听见打火机“咔”的一声——她又抽烟了。
“公司要开除那个实习生,我保下来了。”她深吸一口,烟雾仿佛顺着电话弥漫过来,“错不在他,在我。我太急了,急着证明‘人情数据’有价值,急着让项目活下来。我忘了……数据首先是人的隐私,其次才是算法的养料。”
“姐,”我打断她,“现在不是追究责任的时候。小铺这边……”
“我知道。”她掐灭烟,“我马上带技术团队过去。给我们一上午,我们改系统。下午……我想给街坊们开个会。不是道歉——道歉没用——是说清楚,什么是隐私,什么是边界,什么是……我们该守住的权利!”
“你们要改什么?”
电话那头沉默了几秒,然后说:“我们要把‘不记录’变成默认选项。”
上午九点,姐带着她的团队到了。
五个人,平均年龄不超过三十岁,穿着简单的T恤牛仔裤,背着双肩包,脸上挂着熬夜的黑眼圈,但眼睛很亮。他们没进店,先站在门口,对着那道被爸砸出的裂痕,深深鞠了一躬。
带头的女孩叫小周,团队里最年轻的工程师,才二十四岁。她抬头时眼眶红了:“林哥,对不起……那个测试库,是我上传的。我只是想给采薇姐看看我们的情感识别有多准……我没想到会这样。”
她哭出声来:“我外婆也像王奶奶,总是一个人对着电视说话……如果她的私房话被这样曝光,我会疯的。”
我拍拍她的肩:“知道错了,就把它改好。”
他们开始工作。没动硬件,只打开笔记本,接入系统后台。屏幕上滚动的代码我看不懂,但他们的讨论,我听懂了。
小周先提方案:“我们可以做情感分级!一级隐私——只记录交易;二级——记录对话但匿名;三级——记录全部但加密……”
“不。”姐打断她,声音不大,却像铁钉落地。
所有人抬头。
“分级还是在记录,只是程度不同。”她走到白板前,拿起笔,“我们要做的是根本性改变:默认状态下,系统不记录任何非交易信息。摄像头就是摄像头,麦克风就是麦克风——它们只负责‘看’和‘听’,不负责‘记’和‘析’。”
一个男工程师皱眉:“那模型怎么训练?没有数据,算法怎么进化?”
姐姐转身,看着他:“用人类同意的方式进化。或者……”她顿了顿,一字一顿:“不进化也行,责任我背!”
会议室安静了。
“林总监,”男工程师小心翼翼,“您知道这意味着什么吗?算法停滞,就是死亡。现在竞争这么激烈,如果我们不跑,别人会迅速超越……”
“那就让他们超越。”姐平静地说,“如果超越的方式,是更疯狂地收集隐私、更彻底地剥夺人的选择权,那这种超越,不要也罢!”
她走到窗边,望着外面渐渐热闹的街道。
“你们看过《三体》吗?”她突然问。
有人点头。
“三体人,”她说,“思维透明,没有隐私,不能说谎。他们的社会效率极高,没有欺骗,没有猜忌,一切都在光天化日之下……但那还是人吗?”
她转身,目光扫过每一个人:
“人类文明之所以是人类文明,恰恰因为我们有隐私,有秘密,有说‘不’的权利!我们可以在心里恨一个人,却表面微笑;可以偷偷爱一个人,却从不开口;可以对世界充满绝望,却每天假装正常……这些‘虚伪’,这些‘掩饰’,这些‘不透明’——不是缺陷,是人性最后的防火墙!”
她走回白板前,重重写下两个字:选择!
“AI可以为人类服务,但它绝不能主导人类的发展。”她的声音在颤抖,却不是因为恐惧,而是压抑已久的愤怒,“因为它不懂什么叫‘不想被看见’,什么叫‘宁愿烂在心里’。它只会计算:更多数据=更准模型=更高价值。但有些价值,不能用数据衡量——比如一个人选择沉默的权利,比如一个人决定‘让某些事随风而逝’的自由!”
小周轻声问:“那……我们到底要设计一个什么样的系统?”
姐在白板上画了个简单的流程图:
-默认状态:只记录交易数据(买了什么,多少钱,何时)。
-对话开始前,系统必须明确询问:“本次对话将被记录并用于优化服务,您是否同意?”
-同意→绿灯亮→记录
-不同意→红灯亮→对话结束后自动清除音频缓存
-用户随时可查看、修改或彻底删除自己的历史记录。
她顿了顿,补充道:
“还有最重要的一条:所有记录的数据,用户有权设定‘生命周期’。可以永久保存,可以定期删除,也可以设定为——‘在我死后自动销毁’。”
男工程师倒吸一口凉气:“这……会让我们损失至少70%的训练数据!”
“那就用30%的数据,做出尊重人100%的产品。”姐看着他,“如果我们做的东西,连王奶奶对着亡夫说话的权利都保护不了,那我们和那些扒光别人衣服、还说‘为了更好服务’的混蛋,有什么区别?!”
没人再说话,只有键盘敲击声,急促而坚定。
下午两点,修复后的系统第一次测试。
我们请来了王奶奶。
她坐在小铺的茶桌旁,双手放在膝盖上,不安地绞着。面前是新安装的交互屏幕,上方有三个指示灯:绿、黄、红。
小周解释:“奶奶,绿色表示系统在记录和分析;黄色是只记录不分析;红色是完全不记——就像跟树洞说话,说完就散了。”
王奶奶盯着那三个灯,看了很久。
然后她问:“我……能试试吗?”
“当然。”
她凑近麦克风,像往常那样,轻声说:“今天天气好,老头子那边应该也暖和,我给他晒了被子……”
说到这里,她停住了。
屏幕弹出提示框:
检测到非交易性对话。是否允许记录?
【同意】/【不同意】
(可选时长:永久/一年/一个月/仅本次会话)
王奶奶的手停在半空。
她看向姐,眼神里有困惑,有不安,还有一丝……如释重负。
姐握住她的手:“奶奶,您自己选!您说了算!”
王奶奶的嘴唇颤抖着。她伸出手指,悬在【同意】按钮上,却迟迟没按。
“如果……我选了不同意,”她小声问,“你们会不会觉得我不信任你们?”
“不会。”姐摇头,“这是您的权利。就像您可以把心里话告诉我,也可以不告诉我。我不会因为您不告诉我,就觉得您不把我当亲人。”
王奶奶眼眶红了。
她最终按下了【同意】。
但在选择时长时,她滑动手指,一直滑到最下面的自定义选项。
她在输入框里,一个字一个字地写:“等我死了,就删掉吧。”
写完,她想了想,又补了一句:“别让我儿子看见我哭。他心重,看了难受。”
小周看着那行字,眼泪掉了下来。她迅速设置好,轻声说:“奶奶,系统记住了。这些对话,会在您……离开后,自动销毁。除了您,没人能看到。”
王奶奶长长地舒了一口气。
那口气,像憋了半辈子,终于吐出来了。
她擦了擦眼睛,笑了:“这样好。这样……我就能放心跟他说话了。反正等我走了,这些眼泪话,也就跟着我走了。”
那天下午,王奶奶在店里坐了整整两小时。
她对着麦克风说了很多——说年轻时的相识,说困难年代的相守,说老伴走时的那个清晨,说这三年来每个睡不着的夜。
有时候按绿灯,让系统记。
有时候按红灯,说:“这段就咱俩知道,不存了。”
她说话时,不再绞衣角。背挺直了,声音也大了些。
临走时,她对姐姐说:“现在我知道了——它是个懂事的树洞。知道什么该记住,什么该忘掉。”
系统更新一周后,小铺悄然变化。
姐姐发现,老人们的倾诉欲反而更强了。
赵爷爷每天来买榨菜,总要聊上十几分钟。以前他会刻意避开摄像头,现在他会先看一眼指示灯——红灯就敞开了说,绿灯就聊聊天气。
“现在我知道了,”他说,“它在听,但不知道记不记。这样好,像跟树洞说话——树洞不会传话,但你知道它在听,这就够了。”
李爷爷也回来了。他不再避讳手抖的事,甚至主动问:“那个记录……能帮我记下去医院的日子吗?我怕忘。”
姐教他设私人提醒——只存在本地,不连云端,不分析,只是个备忘录。
李爷爷设完,笑了:“这下好了。我想让它记的,它记。我不想让它知道的,它不知道。这才叫帮手,不叫特务。”
最触动我的,是王奶奶的新习惯。
她学会操作后,每次来,先走到屏幕前,自己按下红灯。然后才开始说话。说家常,说往事,说那些细碎却重要的瞬间。
说完,按下结束。红灯熄灭。
那些话,就像她说的:“散在空气里了。”
她走时,脚步轻快了许多。
好像卸下了重担。
好像终于找回了——对自己记忆的所有权。
姐的团队隔三岔五来优化系统。
有一次临走前,小周问我:“林哥,你觉得这样够了吗?”
我摇头:“不够。但这是一个开始。”
“开始什么?”
“开始让技术学会一件事:它服务的对象,不是数据,是人!而人,有权决定自己的哪些部分成为数据,哪些部分永远只是——人!”
小周似懂非懂地点点头。
姐站在门口,望着店里那些慢慢恢复生气的老人,看了很久。
然后她说:“小默,我以前总觉得,技术越先进,生活越美好。现在我知道了——技术越尊重人,生活才可能更美好。”
她回头看我,眼中有疲惫,却也有光:“我们可能永远做不到完美。但至少,我们可以让每一个使用我们产品的人知道:你有权选择被记住的方式,也有权选择被遗忘的时刻。”
“而这项遗忘的权利,沉默的权利,保留秘密的权利——才是生而为人的,最后的尊严!”
