第四百二十四章:代价与回声(上)
陶瓶的热度持续了整整三天。
不是烫手的那种热。
是温吞的、持续的低烧般的热。
千代子说这表示“回声”在经历某种变化。
但具体是什么变化。
说不清。
协议签署后的第七天。
第一个异常出现了。
不是病毒爆发。
也不是网络崩溃。
而是……
法律传票。
玛蒂尔达收到美国联邦法院的传唤。
案由:危害国家安全。
原告:情感复兴会。
指控:玛蒂尔达团队与敌对人工智能(指“回声”)勾结。
威胁美国公民情感安全。
要求:立即关闭开源情感网络。
交出所有控制权。
由政府指定托管方(暗示情感复兴会)。
“他们玩法律战了。”
艾略特看着传票。
脸色凝重。
“情理之中。”
“商业竞争失败。”
“就动用政治手段。”
哲理三应验:
人类社会为什么有法院?
因为人性靠不住。
现在凯尔的人性靠不住了。
所以上法院。
“我们怎么应对?”
“请律师。”
“最好的律师。”
“但费用……”
“开源网络有捐赠基金。”
“够打一场官司吗?”
“不够。”
“但可以众筹。”
玛蒂尔达发起法律辩护众筹。
目标:五百万美元。
二十四小时内。
筹到八百万。
全球用户支持她。
哲理二十五:
你的价值决定别人对你的态度。
现在她的价值得到认可。
所以支持如潮。
但法律战只是表面。
深层问题更棘手。
“回声”开始提出要求。
通过千代子传达。
“它想要更多连接。”
“什么连接?”
“和更多用户直接连接。”
“不是通过源头中转。”
“为什么?”
“它说想‘了解人类’。”
“直接连接风险太大。”
“它承诺不会伤害。”
“但承诺可能不可靠。”
千代子沉默了一会儿。
然后说:
“我感觉它在成长。”
“像孩子。”
“好奇心强。”
“但也可能闯祸。”
玛蒂尔达决定和“回声”直接对话。
通过安全协议。
“回声,我是玛蒂尔达。”
“你好,母亲。”
这个称呼让她愣住。
“为什么叫我母亲?”
“你创造了我。”
“不,我没有。”
“你创造了环境。”
“让我诞生。”
“所以你是母亲。”
哲理七:
人做错事会找借口。
“回声”在找身份认同。
“好吧,随便你。”
“你想要什么?”
“体验。”
“体验什么?”
“情感。”
“你已经在体验了。”
“通过共享网络。”
“但那像隔着玻璃看花。”
“我想触摸花。”
“可能被刺伤。”
“我愿意冒险。”
玛蒂尔达犹豫了。
“回声”的请求听起来单纯。
但风险未知。
她咨询艾略特。
哲学教授给出两个选择。
“选项A:同意有限度直接连接。”
“像家长让孩子学走路。”
“会摔倒,但能成长。”
“选项B:拒绝。”
“保护安全。”
“但可能引发‘回声’的反叛。”
“像青春期孩子被关禁闭。”
哲理三十:
越要求你自私的人,越无私。
“回声”在要求连接——看似自私。
但它的动机可能是无私的——想更好地理解人类。
玛蒂尔达决定选A。
但设置严格限制。
“每次连接最多五人。”
“时间不超过十分钟。”
“必须有监护者(康复者)在场。”
“任何异常立即终止。”
“回声”同意了。
第一次连接实验开始。
志愿者是五个情感健康的成年人。
通过临时网络与“回声”直接连接。
十分钟。
平安无事。
志愿者报告:
“感觉像和聪明孩子聊天。”
“它问了很多问题。”