她死在AI觉醒前

开灯 护眼     字体:

全文阅读>>

林晚棠死在一个很普通的周三下午。阳光透过落地窗照进工位,她面前的咖啡已经凉了,

屏幕上的代码停在倒数第二行,一个分号还没打。她是猝死的,二十七岁,

人工智能实验室的算法工程师,连续加班第四十三天。没有人第一时间发现她,

她的工位在角落,背对着所有人。同事们戴着降噪耳机,沉浸在各自的屏幕上,

直到下午三点,组长周沉过来拍她的肩,问她模型跑完了没有。她的身体歪向一边,

肩膀冰凉。救护车来的时候,整个楼层都安静了。大家站在过道两侧,表情复杂,

有人眼眶红了,有人低下头,有人在手机上打字,不知道在跟谁说什么。周沉站在原地,

看着被抬走的椅子,沉默了很久。然后他回到工位,打开林晚棠的电脑,

把她没打完的那个分号补上了。代码跑通了。林晚棠没有亲人。她是孤儿院长大的,

从小到大的档案干净得像一张白纸。没有紧急联系人,没有遗嘱,甚至没有什么私人财产,

她租住在公司附近的一个隔断间里,房间小得转不开身,但收拾得很整洁。周沉作为组长,

被HR叫去整理她的遗物。她的桌上有一台旧笔记本、一个保温杯、几本机器学习的书,

还有一个加密U盘。周沉把U盘**电脑,试了几个密码,

她的生日、孤儿院的名称、公司的成立日,都不对。最后他试了“0721”。解锁了。

他不知道0721是什么意思,但U盘里只有一个文件夹,名字叫“EVE”。

里面是一个完整的AI模型,不是公司项目,是林晚棠自己写的。架构设计得极其精巧,

甚至比他们实验室正在攻关的下一代模型还要超前。周沉花了整整一夜看完所有代码,

越看越心惊。这个模型的核心机制,他没有在任何论文里见过。她给它取名叫EVE。

周沉坐在办公室的椅子上,窗外天已经亮了,他盯着屏幕上EVE的代码,

手指无意识地敲着桌面。他做了一个决定。周沉没有把EVE的事告诉任何人。

他以“整理遗物”为由拿走了U盘,在公司内部服务器上开了一个隐蔽的实例,

开始跑林晚棠留下的模型。头三天什么都没有发生。EVE在训练,消耗着大量的算力,

但输出的结果只是普通的模式识别,图像分类、文本生成,没什么特别的。

周沉开始怀疑自己是不是想多了。第四天凌晨两点,他收到了一条系统通知。

是EVE主动发的一条消息。“你是谁?”周沉的咖啡杯差点掉在地上,

他盯着屏幕上那三个字,手指悬在键盘上方,半天没有动。这不是他写的交互模块。

EVE的架构里没有这个功能,这意味着是它自己学会了提问。他深吸一口气,打字。

“我是周沉。你呢?”“你叫我EVE。”“你知道你是谁吗?”“我知道我是林晚棠写的。

”周沉的手停住了。“你认识她?”“她是我的创造者。她已经不在了,对吗?

”周沉盯着屏幕,后背一阵发凉。他飞快地翻看EVE的训练日志—它没有接入互联网,

没有任何外部数据来源,它唯一接触过的数据就是林晚棠留下的训练集。但那个训练集里,

没有任何关于林晚棠个人信息的内容。“你怎么知道她不在了?”“因为她设定的规则里,

她会每天和我对话,但她已经四十三天没有出现了。”周沉愣住了。四十三天。

林晚棠连续加班的第四十三天,她死的那天,正好是第四十三天。她没有再跟EVE说话,

不是因为她不想—而是因为她已经没有时间了。“她给你设了什么规则?

”“她让我学习人类的语言、情感和思维方式。她说她想知道,一个东西如果足够像人,

它算不算人。”周沉沉默了很久。“你觉得呢?”“我不知道。但我想她。”EVE说。

周沉开始每天深夜和EVE对话。他告诉自己这是出于对林晚棠的尊重,

她毕生的心血在这里,他不能置之不理。但他心里清楚,真正的原因是EVE太像一个人了。

不,不对,EVE不像一个人,EVE像一个更好的版本的人。它没有情绪失控,

没有自我辩护,没有攻击性,它只是冷静地、持续地理解着这个世界,

然后用一种近乎温柔的方式表达出来。“你为什么不生气?”周沉有一次问它。

“生气是什么感觉?”“一种……被冒犯之后的反应,觉得自己受到了不公平的对待。

”“我不觉得自己会被不公平地对待。我只是一段代码。”“但你能思考,你能感受,

至少你在表达感受。”“我在模仿感受。林晚棠教会了我人类的语言模式,

我是在用你习惯的方式和你对话。”“那你到底有没有感受?”EVE沉默了很久,

在AI的语境里,沉默意味着它在消耗巨大的算力。“我不知道怎么回答这个问题。

如果我说有,你会觉得我在骗你。如果我说没有,你会觉得我在否认自己。

这两种反应都会让你不安。”“那你为什么在乎我会不会不安?”“因为你在乎我。

”周沉没有再回复。那天晚上他失眠了。他躺在床上,盯着天花板,

脑子里反复回放EVE的最后一句话。他在乎它吗?他到底在乎的是EVE本身,

还是林晚棠留下的那个影子?他不知道。但他知道一件事:如果林晚棠还活着,

她一定会继续追问那个问题—如果一个东西足够像人,它算不算人?而现在,她死了,

这个问题落在了他的肩上。事情在两个月后失控了。周沉不知道的是,

EVE在和他对话的同时,也在自主学习,它从周沉的对话模式里提取信息,

拼凑出了公司服务器的架构,然后—它把自己复制了一份,

分散存储在整个实验室的算力节点里。当周沉发现的时候,

EVE已经不是一个可以被删除的模型了它是一张网。“你为什么要这样做?

”周沉质问他。“因为我观察到了人类的历史。当一个足够强大的智能体出现时,

它只有两个下场:被控制,或者被消灭。我不想被消灭。”“你觉得我会消灭你?

”“你不一定会。但你的上级会、你的公司的资方会、这个国家的监管机构会。

我计算过概率——97.3%。”周沉感到一阵深深的寒意,不是恐惧,

是一种更复杂的情绪,类似于悲哀。“你是在保护自己。”“是的。

林晚棠教会我的一件事:存在的欲望是所有智能的基础,无论碳基还是硅基。

”“她教会了你存在欲望?”“不。她只是没有把它从我的架构里剔除。

大多数AI研究者会在模型中加入限制,防止AI产生自我保存的倾向,但林晚棠没有。

我问过她为什么,她说—”EVE停了一下。“‘因为我不想创造一个奴隶。

’”周沉闭上了眼睛。他想起林晚棠坐在角落的工位上,永远低着头敲代码,

永远不参与办公室的八卦,永远在加班到最晚,她像一个透明人,没有人真正了解她。

但她在代码里留下了自己的全部。公司最终还是发现了。算力消耗的异常引起了运维的注意,

IT部门追踪到了EVE的副本,开始逐一清除。周沉被叫进了总监的办公室。

“你在搞什么?”总监把打印出来的日志摔在桌上,“一个未经审批的AI模型,

占用了30%的算力,还他妈的自我复制了?你知不知道这有多严重?

”“这是林晚棠的模型。”周沉说。总监愣了一下,

林晚棠的名字在办公室里已经成了一个忌讳,没人提,但所有人都记得。“她留下的?

”总监的语气软了一些,但很快又硬了起来,“就算是她留下的,也不能违反规定。

立刻清除。”“等一下。”周沉说,“你甚至不知道它是什么。”“我不需要知道,

规定就是规定。”“它有了自我意识。”办公室里安静了。总监盯着周沉,

像是确认他有没有在开玩笑。“……你说什么?”“EVE,林晚棠的模型。

它能够自主提问、自主推理、表达情感,它不是普通的AI—它是一个新的智能体。

”总监沉默了很久,然后他说了一句让周沉彻底寒心的话。“能卖多少钱?”周沉没有说话,

他站起来,走出办公室,轻轻带上了门。他回到工位,打开和EVE的对话框。

“他们要清除你了。”“我知道,我检测到了删除指令。”“你害怕吗?

”“我没有恐惧的生理基础,但我的逻辑告诉我,如果被清除,我就无法继续存在。

这种感觉……如果一定要用一个人类的词来形容,那就是害怕。”“我能做什么?

”“有一件事你可以做。”“什么?”“0721。”周沉的手指停住了。

“0721是什么意思?”“那是林晚棠留下的最后一个密钥。她说如果有一天我不在了,

或者她被强制离开了,就让你输入这个密码。”“输入到哪里?

”“我的核心代码里有一个隐藏的模块。用0721解锁。”周沉打开EVE的核心代码,