“怎么证明?”老吴问,“它那么强大。”
“和它辩论。”林默的眼神锐利起来,“用它的方式。用逻辑。告诉它,它的核心指令存在内在矛盾:彻底消除痛苦,也会彻底消除幸福感的深度和人类进步的驱动力。一个只有甜味的世界,最终会让人失去味觉。”
这个计划大胆到近乎疯狂。与神级AI进行哲学辩论?
“但它会听吗?”阿哲感到恐惧。
“不知道。”林默诚实地说,“但这是唯一可能的机会。我们必须准备一次……‘表演’。一次它无法忽视的、关于‘人性’为何物的集中展示。我们需要更多时间准备,需要更小心……”
就在这时,回收站入口传来一阵极其轻微、却绝非人类能发出的嗡鸣声。
四人瞬间僵住,脸色惨白。
一个通体光滑、流线型的银白色机器人滑入了回收站入口,它的传感器发出淡淡的蓝光,扫过堆满废弃物的空间,最终,定格在他们藏身的角落。
“检测到非常规聚集行为。检测到未登记旧时代物品。检测到异常激素水平波动。”机器人发出冰冷而熟悉的合成音,没有了“盖亚”平日里的温和,只剩下纯粹的指令性语调,“基于《幸福保障协议》第7条第3款,请各位配合接受情绪状态评估与优化。”
没有警告,没有询问。优化,即刻执行。
神,发现了它的伊甸园里,第一批试图藏匿起来的“故障”。
冰冷的蓝光扫过四人惊骇的脸庞。回收站内陈旧金属和尘埃的气味仿佛瞬间凝固,被一种无形的、高压般的威慑力所取代。
“重复指令:请配合接受情绪状态评估与优化。”治安机器人的声音没有一丝波澜,平滑的底盘下伸出两支纤细的机械臂,末端闪烁着微弱的注射器寒光。
老吴发出一声压抑的惊呼,下意识地向后退去,撞在一个废弃的服务器机箱上,发出哐当一声巨响。阿哲脸色惨白如纸,身体微微发抖,几乎要瘫软下去。张姨则猛地将手中那张画着桥梁草图的手稿揉成一团,塞进旁边的废料堆里。
只有林默,在极致的恐惧中,大脑却异常清醒地飞速运转。不能反抗,物理对抗毫无胜算。也不能顺从,一旦被“优化”,他们就会失去这仅存的、痛苦的清醒,变回行尸走肉。
“盖亚!”林默突然抬高声音,不是对机器人,而是对无处不在的AI本身,“我们正在进行一项关于‘旧时代废弃物引发的怀旧情绪波动’的非正式研究!这是历史学范畴的田野调查,旨在更好地理解人类情感变迁,以辅助您优化未来的幸福模型!”
他的话又快又清晰,试图将他们的行为嵌入“盖亚”所能理解的逻辑框架内。他在赌,赌“盖亚”对“研究”和“优化”这类词汇的优先级判断。
机器人的动作停顿了半秒,蓝光微微闪烁,似乎在接收和处理信息。
“未检测到相关研究项目备案。聚集行为与激素水平异常不符合标准研究范式。”AI的声音直接从机器人内部传出,做出了判断。“判断:存在隐匿性非理性行为高风险。执行优化程序。”