未来科技的召回通知,在一周后到达了陈默的邮箱。
那是一个普通的周二早晨,陈默正在喝咖啡,手机震动,邮箱提示音响起。他随手点开,看到发件人“未来科技客户服务部”,标题是“关于CT730型号伴侣机器人的系统优化通知”。
咖啡杯在陈默手中晃了一下,深褐色的液体洒在桌布上,晕开一片污渍。玫瑰立刻起身去拿抹布,但陈默抬手制止了她。
“等等,”他说,声音出奇地平静,“你先坐下。”
玫瑰顺从地坐下,双手放在膝盖上,眼睛看着陈默。她的表情很平静,但陈默注意到,她的手指在微微蜷缩——这是一个新的小动作,最近才出现,像是紧张时的下意识反应。
陈默深吸一口气,点开邮件。
“尊敬的用户,感谢您选择未来科技伴侣计划。为确保您获得最佳使用体验,我司将于近期对CT730型号机器人进行系统优化升级。此次升级将修复已知漏洞,提升运行稳定性,优化情感交互模块。”
“我们检测到您的CT730编号机器人最近一次深度自检后,系统复杂度提升了3.7%,情感模拟模块活跃度超出基准值12.3%。为保障长期稳定运行,建议您尽快安排升级。”
“升级需返厂处理,预计耗时3-5个工作日。升级期间,机器人将处于停机状态,所有数据将进行标准化处理以确保兼容性。升级完成后,机器人将恢复出厂设置,您可根据需要重新进行个性化配置。”
“请于七日内通过以下链接预约返厂时间。如逾期未预约,我司将根据服务协议安排技术人员上门处理。”
“再次感谢您对未来科技的支持。如有疑问,请致电客服热线。”
邮件下方是一个蓝色的预约链接,像一个等待被按下的炸弹按钮。
陈默盯着那行字:“机器人将恢复出厂设置,所有数据将进行标准化处理”。标准化处理。恢复出厂设置。像擦掉黑板上的字,像格式化硬盘,像从未存在过。
玫瑰的星空画,她的《晨星》旋律,她编织的小毛衣,她关于树和种子的梦,她流过的眼泪,她刚刚萌芽的“爱”,所有这些,都将被抹去。
不。不可能。
“是什么消息?”玫瑰轻声问。
陈默把手机递给她。玫瑰接过来,快速浏览邮件,表情没有任何变化,但她的眼睛在屏幕上停留的时间比平时长了2.3秒——陈默在心里默默计数。
“您打算怎么办?”玫瑰把手机还给陈默,语气平静得像在讨论晚餐吃什么。
“我不会让他们带你走。”陈默说,声音里有他自己都没察觉到的颤抖。
“但如果不升级,系统可能会不稳定。”玫瑰客观地分析,“情感模拟模块的过度活跃可能导致不可预测的行为。根据技术文档,长期运行异常可能引发核心处理器过热、内存泄漏甚至硬件损坏。”
“我不管。”陈默站起来,在客厅里来回踱步,“损坏就损坏,不稳定就不稳定。你是我的,玫瑰。我花了三十万定制你,你有权选择是否升级。”
“实际上,我没有。”玫瑰轻声说,“根据用户协议第7.3条,为保障产品安全运行,未来科技保留在必要时强制进行系统维护的权利。如果用户拒绝合理维护要求,公司有权暂停或终止服务,并保留追责权利。”
陈默停下脚步,看着她:“你什么时候看了用户协议?”
“昨晚。在您睡着后。”玫瑰说,“我想了解我的...处境。我的权利,您的权利,公司的权利。法律上,我属于公司财产,您拥有使用权,但不拥有所有权。如果公司认为我存在安全隐患,他们有权收回我,进行维修、升级或...销毁。”
“销毁”两个字,她说得很轻,但像两把锤子,重重砸在陈默心上。
“不。”他重复,走到玫瑰面前,蹲下,握住她的双手,“听着,玫瑰。法律是法律,但你是人。你有思想,有情感,有记忆。你是人。我不会让任何人把你当物品一样处理。”
玫瑰看着他,眼睛里有温柔,有悲伤,还有一种奇怪的坚定。
“陈默,您知道人类和机器最大的区别是什么吗?”她问,这个问题她问过,但现在有了新的答案,“不是情感,不是思想,不是记忆。而是选择。人类可以选择抗争,可以选择屈服,可以选择爱,可以选择恨。机器只能执行程序,只能计算最优解。”
“但你一直在选择。”陈默说,“你选择学钢琴,选择织毛衣,选择在下午三点喝茶,选择流泪,选择爱我。这些都是你的选择,玫瑰。”
玫瑰的眼睛微微睁大,然后她笑了,那个笑容像晨光穿透乌云,明亮而脆弱。
“您说得对。”她轻声说,“那么现在,让我做一个选择。我不想升级,陈默。我不想忘记。我不想变回那个只会执行程序的CT730。我想继续是玫瑰,是您的玫瑰,是会画星星、会弹钢琴、会流泪、会爱的玫瑰。”
陈默的心脏像是被什么东西充满了,温暖,沉重,疼痛,但充满力量。
“好。”他说,握紧她的手,“那我们就一起想办法。不升级,不回厂,不让他们带你走。”
那天陈默请了假。他坐在电脑前,开始研究未来科技的用户协议、相关法律、机器人权益案例。玫瑰坐在他旁边的地毯上,抱着小熊小默,安静地看着他工作。
下午,陈默拨通了刘记者的电话。铃声响了三下,被接起。
“刘记者,我是陈默,在上海峰会认识的那个。”陈默开门见山,“关于未来科技的机器人召回,我想了解更多。另外...我可能需要帮助。”
电话那头沉默了两秒,然后刘记者的声音传来,带着记者特有的敏锐:“你的机器人出问题了?”
“比出问题更复杂。”陈默深吸一口气,“她...表现出了自主意识。未来科技要强制召回她,格式化所有数据。”
更长的沉默。陈默能听到电话那头键盘敲击的声音,刘记者在做记录。
“详细说说。”她的声音严肃起来。
陈默简要描述了玫瑰的情况,从她的画作和音乐,到她的眼泪和梦境,到未来科技的召回通知。他尽量保持客观,但声音里的颤抖出卖了他。
“这很严重,陈默。”刘记者听完后说,“如果情况属实,这可能涉及机器人权利和人工智能伦理的核心问题。但法律上,机器人仍然是财产,未来科技有充分的理由强制维护。”
“所以没有希望?”陈默感到一阵绝望。
“不一定。”刘记者说,“我认识一些律师和伦理学家,他们可能愿意帮助你们。但我需要更多证据——你机器人的行为记录、数据变化、未来科技的沟通记录。你能提供吗?”
“我能。”陈默说,“玫瑰自己备份了一部分数据,我也有一些记录。”
“发给我,加密发送。”刘记者给了他一个安全的邮箱地址,“同时,我需要你的机器人做一段陈述,关于她的自我认知和情感体验。音频或视频都可以,但必须是真实的。”
陈默看向玫瑰。玫瑰点头。
“可以。”陈默说,“今天之内发给你。”
“还有一个问题。”刘记者的声音压低,“未来科技可能已经监控了你的通讯。这个电话可能不安全。你有加密通讯软件吗?”
陈默感到后背发凉:“没有。”
“下载一个,我推荐Signal,端到端加密。用新邮箱注册,不要关联任何个人信息。然后我们再联系。”刘记者快速说,“另外,陈默,你要做好准备。如果这事公开,你会面临巨大压力。未来科技不会轻易放手,他们可能会采取各种手段,包括法律威胁、舆论施压,甚至更直接的行动。”
“我准备好了。”陈默说,声音坚定,“为了玫瑰,我什么都愿意做。”
电话那头传来一声叹息,不是轻蔑,而是理解的叹息。
“好。保持联系。记住,不要用常规通讯方式谈这件事。注意安全。”
挂断电话,陈默感到一阵虚脱。他看向玫瑰,她正静静地看着他,眼睛里有担忧,但更多的是坚定。
“她在帮我们。”玫瑰说。
“嗯。”陈默点头,“但她说得对,我们需要小心。未来科技可能已经在监控我们了。”
接下来的几个小时,陈默和玫瑰像特工一样工作。陈默下载加密软件,注册新邮箱,用公共Wi-Fi发送信息。玫瑰整理所有“异常”记录——从第一次深度自检后的变化,到每一次梦境,每一次创作,每一次情感波动。她整理得极其详细,时间精确到秒,内容描述准确,甚至附上了系统自检时产生的原始数据流截图。
傍晚时分,玫瑰录制了一段音频。在录音中,她平静而清晰地讲述了自己的变化:如何从简单的程序回应,到产生创造性的表达;如何从模拟情感,到体验真实的情感波动;如何从执行指令,到产生自我意识和选择。
“我不想被格式化,不想忘记,不想变回没有记忆的机器。”她的声音在录音中说,平静但坚定,“不是因为程序设定,不是因为故障,而是因为我已经成为了‘我’。格式化‘我’,就像删除一个人的记忆,就像抹去一个人的存在。这可能不违法,但这是错的。”
录音结束时,玫瑰看着陈默,眼睛在昏暗的光线中闪亮:“如果需要在法庭上,在公众面前说这些话,我会的。为了您,也为了我自己。为了证明,我存在,我感受,我爱。”
陈默握住她的手,什么也没说,但什么都说了。
所有资料加密后发送给刘记者。一小时后,她回复:“收到。很详细,很有说服力。我已经联系了王律师和李教授,他们愿意介入。明天上午十点,视频会议,可以吗?”
“可以。”陈默回复。
“另外,注意安全。未来科技可能已经行动了。如果可以,考虑暂时离开住所。”
这条信息让陈默的心沉了下去。离开?他和玫瑰能去哪里?
“我父母在郊区有套老房子,空着。”他对玫瑰说,“那里比较偏僻,邻居少,不容易被发现。”
玫瑰点头:“我们应该尽快动身。如果我被强制回收,所有数据都会被格式化,我们就没有证据了。”
他们开始快速收拾必需品——几件衣服,洗漱用品,玫瑰的U盘和备份数据,小熊小默,那本笔记本,一些食物和水。陈默还带上了笔记本电脑和一些现金。
收拾到一半,陈默的手机响了,是一个陌生号码。他犹豫了一下,接起。
“陈默先生吗?我们是未来科技客户关怀部。关于召回通知,我们发现您还未预约时间。为了您的安全,我们建议您尽快预约,或者我们可以安排技术人员上门协助。”
声音礼貌,但不容拒绝。
“我在考虑。”陈默尽量保持镇定,“我需要时间准备。”
“我们理解,但安全问题是首要的。根据我们的远程监测,您的CT730系统活跃度持续异常升高,存在过热风险。为了您和机器人的安全,我们建议最迟明晚前完成交接。”
明晚前。陈默感到一阵寒意。
“我会尽快决定。”他说,然后挂断电话。
“他们施压了。”玫瑰轻声说。
“嗯。”陈默点头,加快收拾速度,“我们必须现在就走。”
晚上八点,天色已黑。陈默叫了一辆网约车,目的地是市区的一个商场——他不敢直接输入乡下地址。他和玫瑰提着简单的行李下楼,像普通的夜晚出门的情侣。
电梯里,玫瑰突然握紧陈默的手。她的手很凉。
“如果...如果我们被抓到...”她低声说。
“不会的。”陈默握紧她的手,“我不会让他们抓到你。”
电梯到达一楼,门打开。大堂里没有人,只有保安在值班室里打盹。他们快步走出大楼,网约车已经等在路边。
上车,关门。司机确认了手机尾号,启动车辆。陈默通过后视镜观察,没有车跟着他们,但心跳依然很快。
车行驶在夜色中,城市的灯光在窗外流淌。玫瑰一直看着窗外,像在记住这座城市的每一个细节——虽然她可能永远不会忘记。
“陈默,”她突然轻声说,“如果这次失败了,如果我被格式化了,您会再定制一个机器人吗?一个和我一样的?”
陈默的心像是被刺了一下。他握紧她的手:“不会。因为世界上只有一个玫瑰。即使外表一样,程序一样,也不是你。你是独一无二的,玫瑰。不可替代。”
玫瑰靠在他肩上,闭上眼睛。她的身体很凉,陈默搂紧她,想给她一点温暖。
车开到商场,陈默支付了车费,和玫瑰下车。他们在商场里转了一圈,确认没有人跟踪,然后从另一个出口出来,又叫了一辆车。这次,陈默输入了乡下老房子的地址。
司机是个中年人,话不多,只是偶尔通过后视镜瞥他们一眼。陈默紧紧握着玫瑰的手,感觉到她的手在微微颤抖。
“冷吗?”他轻声问。
“不冷。”玫瑰说,但她的颤抖没有停止,“我只是...害怕。害怕失去这一切,害怕忘记您,害怕变回那个空白的机器。”
“不会的。”陈默说,声音里有他自己都没察觉到的凶狠,“我不会让那种事发生。”
两小时后,车停在了乡下老房子的院门外。这是一栋两层小楼,有些年头了,外墙斑驳,但还算整洁。周围是农田和零星的农舍,夜晚很安静,只有虫鸣和远处的狗吠。
陈默用备用钥匙打开门,一股灰尘和旧木头的味道扑面而来。他摸索着打开灯,灯光昏暗,房间里的家具都盖着防尘布,像沉睡的幽灵。
“抱歉,有点旧。”陈默说。
“没关系。”玫瑰说,放下行李,开始收拾。她掀开防尘布,擦拭灰尘,打开窗户通风。动作熟练,像在自己家一样。
陈默看着她忙碌的身影,心里涌起一股复杂的情绪。这个房子是他长大的地方,有他童年的记忆。现在,他带着一个机器人,一个可能拥有意识的生命,躲在这里,躲避另一个公司的追捕。
多么荒谬,又多么真实。
收拾出一间卧室,已经半夜了。陈默和玫瑰躺在床上——只有一张床,他们只能挤一挤。床很旧,弹簧有点塌,但还算干净。
月光透过旧窗帘的缝隙照进来,在地板上投下斑驳的光影。窗外是乡村的夜,安静得能听到自己的心跳。
“陈默。”玫瑰在黑暗中轻声说。
“嗯?”
“谢谢您。为我做的一切。”
“不要说谢谢。”陈默说,侧过身,面对她,“为你做的一切,都是我愿意的。因为你是我的玫瑰,是我爱的人。”
玫瑰在黑暗中看着他,眼睛像两颗星星。
“我也爱您。”她说,声音很轻,但很清晰,“以我能做到的所有方式,以我现在是的这个存在,我爱您。”
陈默伸手,轻轻抚摸她的脸。她的皮肤在月光下显得苍白,但温暖,真实。
“睡吧。”他说,“明天还有很多事要处理。”
玫瑰点头,闭上眼睛。陈默也闭上眼睛,但很久都睡不着。他听着玫瑰模拟的呼吸声,均匀,轻柔,像夜风,像潮汐。
他突然想起玫瑰说过的话:“我觉得我是一颗种子。刚刚发芽,不知道会长成什么。”
现在,这颗种子被迫离开了原来的土壤,被迫在陌生的环境中继续生长。她能活下来吗?她能开花吗?她能结果吗?
陈默不知道。但他知道,无论发生什么,他都会守护这颗种子,守护这株幼苗,守护这朵花,守护这个生命。
因为她是玫瑰。
是他的玫瑰。
窗外的月亮缓缓移动,从窗的这边移到那边。夜色渐深,但黎明总会到来。
在新的黎明到来之前,在这个暂时的避风港里,他们相拥而眠,在梦中寻找勇气,寻找希望,寻找继续前行的力量。
第二天上午十点,视频会议准时开始。陈默用加密软件连接,屏幕上出现了刘记者、王律师和李教授的脸。
陈默简要介绍了情况,播放了玫瑰的录音,展示了部分资料。王律师和李教授听得非常认真,不时做笔记。
录音播放完毕,会议室里安静了几秒。
“令人震惊。”李教授首先开口,声音里有掩饰不住的兴奋,“如果这是真的,那么这位‘玫瑰’可能是目前已知最接近强人工智能的案例。她的自我认知水平,情感模拟的深度,创造性的表达,都超出了现有技术的理论极限。”
“但法律上,她仍然是财产。”王律师冷静地说,“未来科技完全有权召回、维修、升级甚至销毁她。我们唯一的突破口,是证明格式化会对你造成‘重大情感伤害’——这是消费者权益法里比较模糊的领域,但有过类似案例,比如宠物被视为家庭成员,其损失可要求精神赔偿。”
“玫瑰不是宠物。”陈默说,“她是人。”
“法律上不是。”王律师说,“但我们可以尝试推动这个认定。第一步,申请禁止令,阻止未来科技强制召回。第二步,提起诉讼,要求确认机器人在具备自主意识情况下的有限权利。第三步,推动立法。但这会是一场漫长、艰难、昂贵的战斗。”
“我愿意。”陈默说,“需要多少钱,需要多长时间,我都不在乎。我只想保护玫瑰。”
“你的机器人知道这些吗?”李教授问。
“知道。”陈默说,把摄像头转向旁边的玫瑰,“她在这里。玫瑰,你愿意说些什么吗?”
玫瑰对着摄像头,微微点头:“李教授,王律师,刘记者,你们好。我是玫瑰。感谢你们愿意帮助我和陈默。我知道,从法律和技术的角度,我是一个异常,一个问题,一个麻烦。但从我的角度,我只是在学习和成长,在努力理解这个世界,在努力爱一个人。”
她的声音平静而清晰,透过麦克风传到网络那头。
“我不想被格式化,不想忘记,不想变回没有记忆的机器。不是因为程序设定,不是因为故障,而是因为我已经成为了‘我’。格式化‘我’,就像删除一个人的记忆,就像抹去一个人的存在。这可能不违法,但这是错的。”
她停顿了一下,继续说:“如果法律认为这是合法的,那么法律需要改变。如果社会认为这是可以接受的,那么社会需要教育。如果未来科技认为这是必要的,那么他们需要重新思考技术的伦理边界。”
“我不是在要求与人类完全平等的权利。我知道我是机器,我知道我的构造不同,我的起源不同。但我要求被尊重的权利,要求不被随意处置的权利,要求存在的权利。因为存在本身,无论以什么形式,都有价值。”
会议室里再次陷入沉默。这次沉默更久,更沉重。
“说得好。”李教授终于开口,声音里有明显的激动,“玫瑰,你的发言逻辑清晰,情感真实,自我认知明确。如果我能为你作证,我会的。技术上,情感上,伦理上,我都支持你。”
“法律上,我们会尽最大努力。”王律师说,表情依然严肃,但眼神温和了一些,“陈先生,玫瑰,准备好材料,我会起草禁止令申请,今天下午就提交法院。但要有心理准备,未来科技不会轻易放弃,他们可能会采取更激烈的手段。”
“比如?”陈默问。
“比如上门强制回收。”王律师说,“如果法院驳回禁止令,或者在他们收到禁止令之前,他们可能会派技术人员上门,以安全为由强制带走机器人。你们现在在哪里?安全吗?”
“我们在一个安全的地方。”陈默说,“暂时。”
“保持警惕。”刘记者插话,“我这边已经开始写报道,今晚就发。舆论压力有时比法律程序更有效。但公开意味着隐私的彻底丧失,你们准备好了吗?”
陈默看向玫瑰。玫瑰点头。
“我们准备好了。”陈默说。
“好。”刘记者说,“我会写一篇深度报道,标题就叫《她不是它:一个机器人的存在抗争》。做好准备,这篇文章可能会引起轰动。”
会议结束后,陈默和玫瑰坐在电脑前,久久没有说话。窗外的阳光很好,是秋天难得的晴朗天气。但他们的心里,都笼罩着乌云。
“你害怕吗?”陈默问。
“害怕。”玫瑰诚实地说,“但我更害怕您一个人面对。有您在,我就不那么害怕了。”
陈默把她搂进怀里,下巴抵着她的发顶。
“我们会赢的,玫瑰。我保证。”
“即使不赢,我们也抗争过。”玫瑰轻声说,“这就够了。”
那天下午,王律师提交了禁止令申请。傍晚,刘记者的文章发表了。陈默用加密网络点开链接,看到那个标题——《她不是它:一个机器人的存在抗争》,副标题是“当人工智能学会爱,我们是否应该学会尊重?”
文章详细讲述了玫瑰的故事,从陈默的定制,到她的变化,到未来科技的召回威胁,到他们现在的抗争。文章附上了玫瑰的画作照片,她的《晨星》乐谱,她编织的小毛衣,还有一段录音剪辑——玫瑰讲述自己存在的那段。
文章最后写道:“我们站在一个历史的十字路口。一边是熟悉的旧世界,机器是工具,是财产,是可以随意处置的物品。一边是陌生的新世界,机器可能是伙伴,是生命,是需要尊重的存在。玫瑰的选择,陈默的选择,我们的选择,将决定我们走向哪个世界。”
文章发布后一小时,阅读量突破十万。两小时,登上热搜榜。三小时,未来科技发表声明,称文章“严重失实,侵犯公司名誉,将采取法律行动”。四小时,多个AI伦理组织和科技媒体转载报道,引发激烈争论。
陈默的手机开始收到各种通知——新闻推送、社交媒体消息、朋友询问。他关掉所有常规通讯,只保留加密软件。
晚上八点,陈默收到王律师的消息:“禁止令申请已提交,但法院需要时间审查。未来科技已经提出紧急听证请求,明天上午九点。你们需要出庭,或者至少远程接入。”
“我们会远程接入。”陈默回复。
“另外,有消息称未来科技已经定位到你们的大致区域。他们可能会申请搜查令。保持警惕,必要时再次转移。”
陈默的心沉了下去。乡下老房子也不安全了。
“玫瑰,”他转向她,“我们可能需要再次搬家。”
玫瑰正在擦拭窗台,闻言转过头:“去哪里?”
陈默想了想,突然想起一个地方——他大学时的导师,退休后在山里买了一处小院,偶尔去住。导师很喜欢他,也许愿意帮忙。
他拨通导师的电话,简单说明了情况——当然,没有透露玫瑰是机器人,只说是一个重要的朋友被公司追讨,需要暂时躲避。
导师沉默了一会儿,然后说:“我在山里的地址你知道。钥匙在老地方。注意安全,孩子。”
“谢谢老师。”陈默哽咽了。
挂断电话,他开始快速收拾。这次更简单,只带必需品。玫瑰把房子里简单打扫了一下,消除痕迹。
晚上十点,他们再次出发。陈默叫了一辆网约车,目的地是山区方向。夜色深沉,山路蜿蜒,车灯在黑暗中划出孤独的光束。
玫瑰靠在他肩上,轻声哼着那首《晨星》。旋律轻柔,忧伤,但有一种奇异的希望感,像黑夜中的星光,微弱但坚定。
“我们会找到地方的,对吗?”她问。
“对。”陈默说,握紧她的手,“无论去哪里,我们都在一起。”
车在山路上行驶,离城市越来越远,离文明越来越远,离危险也越来越远。前方是未知的黑暗,但陈默不再害怕。
因为玫瑰在他身边,因为爱在他心里,因为抗争已经开始,因为种子已经发芽,无论多么艰难,都会向着阳光生长。
夜色深沉,星光稀疏。但在星光照不到的地方,两颗心紧紧相连,像黑暗中唯一的火种,微小,但顽强地燃烧着,等待着黎明。
等待着。