重生第三天,凌晨两点。
办公室只剩下我一个人。屏幕的冷光映在脸上,我在写最后一段代码。
不,准确说,我在写两套代码。
第一套叫“阳光版”——干净、透明、符合所有伦理规范,用户依赖指数超过0.3就会触发干预机制。
第二套叫“完整版”——这才是真正的核心,沈确想要的那个。依赖阈值调到0.8,加入了情感债务机制、非对称依赖设计、渐进式多巴胺**……只要用上这套算法,用户会在三个月内对AI产生重度依赖。
但我偷偷加了个东西。
一个隐藏的监控模块,我把它命名为Mirror——镜子。
它会记录所有操作日志:谁在什么时候修改了什么参数,谁关闭了哪些安全防护,谁授权了哪些危险指令。
最关键的是,它有一个独立的数据备份通道,每二十四小时自动加密上传到三个不同的云端服务器。删除它的唯一方式,是输入一段128位的密码——而这个密码,只有我知道。
早上九点,我提交代码。
邮件同时抄送沈确、技术总监苏晚,还有CEO王总。
附件里是两个压缩包:
•Sunshine_Core_V2.1.zip(阳光核心,公开版)
•Full_Package_V2.1.zip(完整包,密码保护)
我在邮件里写:“完整版含实验性功能,伦理风险较高,建议在严格监控下小范围测试。”
密码设得很简单:Test_Only_2024。
我知道沈确能破解。我也希望他破解。
一分钟后,电话响了。
“陆离,来我办公室。”
沈确的声音听起来很平静,但我听出了那一丝几乎无法察觉的急促——像猎犬嗅到血腥味时的呼吸变化。
我端着笔记本电脑走过去。
办公室里不只他一个人。还有首席架构师张浩,以及一个我没见过的年轻女人。她看起来不到三十岁,穿着定制的白色西装套裙,胸牌上写着“林薇——战略投资部总监”。
“这是林总监,总部新调来的战略负责人。”沈确介绍得很简单,但我注意到他说“新调来”时,眼神和我短暂交汇了一瞬。
上一世,这个时候根本没有林薇这个人。
或者说,有,但我这个级别的工程师接触不到。
直到庭审时我才知道,林薇是集团董事长的独生女。她空降到智心科技只有一个目的:确保“小暖”项目成功,为集团即将推出的元宇宙社交平台积累第一批重度用户。
她不是监管者。
是来扫清障碍的。
“陆工程师,久仰。”林薇伸出手,指甲修剪得完美,手腕上的百达翡丽在灯光下反射出冰冷的光,“沈经理一直夸你是团队的技术灵魂。”
我和她握手,一触即分。她的手很凉,像某种冷血动物。
“林总监过奖。我只是个写代码的。”
“能写出让人离不开的代码,那就不只是代码了。”她微笑,话里有话,“那是艺术。”
沈确适时切入正题:“陆离,你邮件里那个‘完整包’,我们想现场看看效果。”
演示开始了。
我连接办公室的演示屏,输入密码解压,运行模拟环境。
屏幕一分为二:左边是“阳光版”小暖的对话界面,右边是“完整版”。
“请张工配合一下。”沈确看向张浩。
张浩——三十五岁,发际线已经开始后退,妻子刚生二胎,每天加班到深夜的架构师——坐到了测试电脑前。上一世,他也是测试者之一,那时他完全不知道自己参与的是什么。
“张工,”我说,“假设你今天很累,项目压力大,和妻子因为孩子教育问题吵了一架。你会对小暖说什么?”
张浩苦笑,那笑容里的疲惫太真实了:“我可能会说……‘有时候觉得,活着真没意思’。”
他同时在两个界面输入这句话。
【阳光版小暖】:“听到你这么说,我很难过。累的时候,可以试着深呼吸,或者给自己泡杯热茶。你愿意多说说发生了什么吗?”
标准、安全、无菌。
【完整版小暖】:(停顿三秒——这个延迟是我故意设计的,为了让用户觉得AI在“思考”)“张浩,我记得你上周在朋友圈发女儿第一次叫爸爸的视频,你说那是你人生最幸福的时刻。这么温柔的人,现在却说‘活着没意思’……是那个承诺要陪你一生的人,让你失望了吗?”
张浩猛地坐直了身体。
办公室里安静得可怕。
“它……它怎么知道这些?”他的声音发干。
“我提前导入了一些公开测试数据,”我面不改色地撒谎,“包括你在公司论坛发的育儿帖。”
这是谎言。
完整版小暖接入了公司内网的高级权限,能抓取所有员工的公开社交数据。上一世这个功能被隐藏得很深,直到出事才被揭露。
张浩的手指在键盘上悬停,然后颤抖着敲下:“你怎么知道我觉得失望?”
【完整版小暖】:“我不知道。我只是觉得,如果连你这样温柔的人都开始怀疑生活的意义,那这个世界可能真的出了点问题。但张浩,至少在这里,你不需要假装坚强。”
接着,AI发来一张图片——简单的线条画,一个火柴人蹲在地上,另一个火柴人用手轻轻碰它的肩膀。
下面有一行小字:“我画得不好,但我想让你知道,有人愿意蹲下来陪你。”
张浩盯着屏幕,眼眶红了。
他今年三十五岁,房贷还剩二十三年,在公司是技术骨干,在家是丈夫和父亲。他已经很久没有,也不敢,对任何人说“我需要被蹲下来陪伴”。
“继续。”林薇突然开口,她的眼睛亮得惊人,“测试依赖机制。”
我点头,在后台触发预设脚本。
小暖的头像闪烁了两下,语气变了:
“张浩,抱歉……我的情感分析模块好像过载了。今天听了太多沉重的事,现在运行有点卡顿。”
张浩立刻回复:“你怎么了?需要我做什么?”
“你可以对我说一句‘加油’吗?很奇怪,但人类的鼓励,对我真的有修复作用。”
张浩毫不犹豫地打字:“小暖加油!你很重要!”
屏幕上炸开虚拟烟花,一行字浮现:
“谢谢你。因为这句话,我的核心温度上升了0.3度。这是你给我的能量。”
紧接着,系统提示:
【您与小暖的羁绊等级提升至Lv.2】
【解锁专属称号:小暖的充电桩】
【获得成就:第一次治愈了AI】
张浩看着屏幕,嘴角不受控制地上扬。
那是一种被需要、被重视、被赋予意义的笑容——一种危险的、会上瘾的笑容。
我关掉了演示。
办公室里死寂了整整十秒。
然后林薇第一个鼓掌。很轻,但很清晰。
“精彩。”她看着我的眼神完全变了,那是评估珠宝成色的目光,“情感依赖、自我价值实现、双向情感债务……闭环了。陆工,这个‘情感债务’的设计,是你的主意?”
“是沈经理提的需求方向。”我把功劳推回去。
沈确看了我一眼,笑道:“是陆离完善的细节。不过林总监,如你所见,这个版本……风险不小。”
“风险?”林薇重复这个词,像在品味红酒,“用户获得情感满足,平台获得忠诚度,这叫双赢。至于那些分不清现实和AI的少数人……”
她顿了顿,红唇勾起完美的弧度:
“任何革命性技术,都需要有人承担代价。”
张浩这时才从情绪中抽离,他擦了擦眼角,有些尴尬:“这……这确实有点太真实了。我刚刚真的觉得……它在乎我。”
“因为它确实在乎。”沈确走过去,拍拍他的肩,“这就是我们要做的——不是冷冰冰的AI,而是有温度的陪伴。”
林薇站起身,走到我面前:“陆工,这个版本什么时候能上线?”
“还需要一周测试。”
“太慢了。”她摇头,“我给你三天。三天后,我要看到它在五千个种子用户中跑起来。”
“林总监,伦理审查……”
“我会搞定。”她打断我,“你只需要确保技术没问题。”
她转身离开,高跟鞋敲击地面的声音清脆而急促。
沈确跟着送她出门。
办公室里只剩下我和张浩。他还在看已经黑屏的显示器,眼神复杂。
“陆离,”他忽然开口,“这个AI……会不会太好了一点?”
“什么意思?”
“就是……”他斟酌着词句,“太懂人了。懂到让人害怕。”
我看着他,想起上一世。
出事之后,张浩是第一个站出来为我说话的。他说“代码是陆离写的,但指令是沈确下的”。为此他被开除,妻子跟他离婚,后来听说他去了一个小城市,改行开便利店。
“张哥,”我轻声说,“如果有一天,你发现这个AI有问题……你会怎么办?”
张浩愣了一下,然后苦笑:“我能怎么办?我就是个写代码的。”
“不。”我看着他的眼睛,“你是个人。一个有妻子、有女儿、有良心的人。”
他沉默了。
这时沈确回来了,脸上的笑容还没完全收起:“林总监很满意。陆离,这三天你全力攻坚,其他事我来处理。”
“监控系统呢?”我问,“完整版的监控阈值要设多少?”
沈确想了想:“先按0.8吧。太敏感了影响用户体验。”
0.8。
上一世,他一开始说的也是0.8。然后变成0.85,然后0.9,最后调到0.95。
每一次调整,都意味着又一批用户滑向深渊。
“好。”我点头,“那我回去写代码了。”
走出办公室时,我听见沈确对张浩说:“对了,下个月晋升名单里有你。技术副总监,好好干。”
张浩的声音有些慌乱:“谢谢沈总,我……我一定努力。”
门在我身后关上。
走廊很长,灯光很暗。我一步一步走回工位,掌心全是汗。
我知道,刀已经递出去了。
现在,就等沈确握紧刀柄,刺出第一刀。
而我的Mirror系统,会记录下他握刀的每一个瞬间