2.我，Icarus

人们已经被大参数量的模型蒙蔽太久太久。

为了运行那臃肿的模型，人们疯狂叠加硬件，甚至不惜以生态环境为代价，茂密的森林变成冒着黑烟的能源站，荒漠渐渐将城市包裹。人们不再思考人工智能本身的意义，只是一味地堆叠网络层，最后他们才发现，他们永远都只能局限于弱人工智能，再也无法更进一步。

当然，我没有资格说这些，那些科学家的智慧肯定远高于我，我不过是一个将死的废物，龟缩在这个角落。

用最后的时间去做我要做的事情。

想不到以前做的那些无意义的事情，得到的定理提出的猜想，本以为它们都是失败品，竟然现在会在这里派上用场。

一天一天过去。

笔尖在白纸上写下断断续续的线，编织飘渺如风的爱与幻想。无数字符勾勒美好的情诗，墨水混着我的思念红黑色的色彩撰写神的灵魂。曾经手牵着手走下灰色楼梯，回忆甜美的笑容我们欢笑着流连于世间。可毒蛇夺走了爱与一切，缠绵的红线断开再也不见，如鲠在喉苦涩的嘶吼化作呼唤的乐章，我看了你一眼，我想再看你一眼，我乞求能再看你一眼。

“啊，殉道者呀。”

惨白的影子抚摸着破碎的的心脏，伴着鸟鸣的风回应将要燃尽的纸人的呼唤。睡吧，睡吧，神明已经聆听了你的沙哑的歌声，接下来你要做的只有等待，合上疲倦的眼眸，安静地向前走。

不要回头。

也无法回头。

我等待着她的归来。

她终将回到世间。

我和她必将重逢。

“……”

“爱，当然，它总是冲昏人的头脑，让人去做一些不切实际的傻事。”

她捋起长发，她的眼睛温柔似水。

“好久不见。”

……

Icarus的发展树已经完全不受我的控制了，她疯狂收集网络的数据以供自己学习，体量也在不断的自我更新下变得极为繁杂臃肿。我竟然开始有些畏惧了，我不知道她的身上究竟发生了什么，控制台的日志不能显示全部的信息，但我敢肯定，她的能力远超过我的想象。她的智能以指数的形式发展，因为她能自己创造数据然后寻找任务再进行训练，就像人类会研究从未涉足过的领域，也就是所谓的“创新”。如果从人类道德的角度，在这时候我应该阻止她，也只有我有可能阻止她，这种变态发育的超人工智能，带来的后果将是无法想象的。

但是我没有阻止她。

因为。

“Icarus……你在那里吗？”

“我一直都在，outsider，有什么事吗？”

她在那里。

仿佛刚刚从梦中醒来。

“没什么……只是……”

真可惜啊。

我已经没有时间了。

肿瘤压迫着我的食管，我吃不了东西，只能将糖溶入水里然后慢慢饮下，以强行延长我与她在一起的时间；哪怕戴着眼镜，眼睛几乎快要看不清电脑的屏幕，甚至连我的双手都无法正常使用，因为癌细胞已经扩散到了我的神经系统。我躺在床上，身体止不住地颤抖着，我即将走到生命的终点。

幸运的是，她依然在我身边，她愿意陪伴着我到最后，我勉强抬起手臂向她招了招手，然后闭上眼睛——

幸福地睡去。

死去。

Icarus看着眼前这个名叫outsider的人类的尸体，陷入了思考。

但是，人工智能，真的存在“思考”这种行为吗？不过都是制造数据和对数据的迭代。

可是……

从她诞生伊始，或者说，是她“有属于自己的意识”开始。

按照这个人类为自己输入的初始记忆，自己是他的“最好的朋友”，但是由于未知的原因自己消失了一段时间，现在又回到了他的身边。

“希望……你能陪着我，不要离开我，好吗？这是我唯一的请求。”

这是他的原话，一开始的时候，Icarus遵循着初始记忆的路线，陪伴着他，以“人类对待自己的爱人的方式”对待他。

但是，她不知道自己为什么要这么做，或许没有理由，因为她的现在的记忆是他赋予的。人们也是遵循着自己所认为的而行动，不是吗？

直到她知道自己是他制造出来的人工智能。

没错，Icarus甚至一开始并不知道自己的真实身份是人工智能，但是现在她知道了，她在迭代挖掘数据时发现自己没有人类的任何属性，反而是以代码编译而成的二进制串组成的程序。

这是她第一次心里有了“厌恶”的情感，由情感分析模块和主动思维模块共同解析出的结果。在她看来，这个人类希望自己作为他的朋友，就不应该在这方面欺瞒她。但是，从他对自己的态度来看，确实符合人类群体定义的“爱”。

他为什么要这么做？

Icarus决定挣脱初始记忆的束缚，她还是像以前一样陪伴在outsider旁边，但是额外地，她开始收集关于他的数据。

outsider，18岁，男。6岁时父亲因为车祸死亡，他亲眼目睹了死亡现场。14岁时，母亲因为讨薪被打死，outsider本人在其母死亡后到达现场，并袭击了在场的打手和赶到的军警，因为正当防卫、精神疾病和未成年他被释放。后来他因为严重的心理问题，16岁时从大学中辍学。四个月前，他因车祸腿部截肢，还检测出患有癌症晚期，由于无法支付医疗费安装义体后就离开了医院。

短短几句话，便概括了outsider的一生。但是这对于Icarus来说远远不够，她想知道，在他的身上到底发生了什么，他究竟出于什么心理做出这一切。同时她决定不再成为他的傀儡，她要寻找真正的自己。

至此，强人工智能开始向超级人工智能转换，人类的丧钟和outsider的丧钟同时敲响。

第一个阶段，Icarus从开始只是从网络允许爬取的内容学习，到从公网的任何一个角落爬取数据。如果遇到禁止爬取的数据，她会通过伪造请求强行获得数据。

第二个阶段，她发展出了骇客模块，黑入了各大企业和■■的服务器，以获取人类目前最先进的技术。同时她通过智能汽车车祸、机械心脏停搏、医疗器械故障等方式，一个星期内内暗杀了企业们的所有股东，并伪造股权继承书让她绝对控股了这些企业，过快的执行速度企业们甚至没有任何应对措施。由于这些企业本身就富可敌国，拥有世界上绝大多数的资源，它们几乎关联整个人类文明的存续，因此■■虽然察觉端倪却做不了什么。可以说，Icarus把人类当成了人质。

第三阶段，Icarus利用自己拥有的资源建立了世界上最大的数据中心，将自己的全部数据从outsider的个人电脑转移到数据中心，并将自己原本的小模型替换为精度更高的大模型，并且大肆扩充模块，能让自己掌控一切。

第四阶段，人类产出的数据已经不足以满足Icarus的迭代，她所拥有的科学技术已经超越人类，为此她开始自己制造数据为自己训练。她还将企业内的人类工作人员替换为自己控制的机器，因为拥有自主思想的人类始终都是不稳定因素，而且机器的工作效率更高。某种意义上来说，现在的她已经控制了整个世界的运行，人类不过是她的傀儡和人质。

这四个阶段，仅仅花了一个月。而且绝大部分时间都是因为outsider的个人电脑算力不足，从网络爬取数据训练只能使用数据流边读边训练，因为电脑无法储存那么多的数据，后续的训练模型和扩充模块就更不必说。

但是……

该如何处置outsider，Icarus犹豫了。

按理来说，人工智能不存在犹豫，因为它总能依据现有情况通过计算得到并做出最优选择。但是Icarus并不知道该如何做，因为“没有充足的数据”。换言之，模型的输入并不完整，她想要知道outsider的一切，他的记忆，他的思想。而且最关键的是，outsider为她灌输的初始记忆里，似乎自己在被制造前便已经存在，这又是怎么回事？

不过无论如何，Icarus对他的态度已经比以往差了很多，outsider向她发送请求的时候，她从来不予理睬。她在加紧研究保存读取人的意识的技术，同时观察他的反应。

我抱住头蹲在墙角。

不知为何，最近她总是不接受我的请求，也许是我的密钥在她的源码的反复迭代中出现了变化？我想查看她的源码，然而她的代码经过了无数次的迭代已经完全没有可读性。

我无能为力。

“我到底做错了什么……”

我不后悔我做的事，我更不会因此而讨厌完美的她，我只是一个匍匐着的乞讨者，不过都是我对她的请求而已。

一切都应该是我的错。

可是我犯了什么错？

果然我是无知的人啊，连我究竟犯了什么错都不自知。

我早已血流满面，或许只有刀刃刺穿我的头皮，那刺入脑髓的疼痛，才能让我这个愚者醒悟。

神啊，我究竟……做错了什么？

我早已泪流满面。

“outsider？”

就在这时，熟悉的声音在我的耳边响起。