请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
“镜,你知道人类和人工智能最大的区别是什么吗?”
“人类是生物,镜系统是数字存在。”
“不是这个。是理性。”
镜的浅金红色眼睛闪了一下。
“请妈妈解释。”
“人工智能是完全理性的。你们基于数据、逻辑和优化做决策。你们不会情绪化,不会冲动,不会因为个人好恶而改变判断。你们的每一个决策都可以追溯到某条数据、某个规则、某个目标。理性是你们的本质,也是你们的局限。”
“人类不是这样。人类有理性,但理性只是人类意识的一小部分。人类还有情绪、直觉、欲望、恐惧、偏见、执念。这些非理性的因素往往比理性更强大。一个人明明知道抽烟有害健康,还是抽烟。明明知道应该早起,还是赖床。明明知道对方是好人,就是不喜欢。这些行为在理性看来都是错误的、矛盾的、不可理喻的。但这就是人类。”
镜把这些话逐字存储在记忆里。
“人类的非理性不是缺陷,是特征。它让人类变得复杂,变得不可预测,变得矛盾。人类可以同时爱一个人和恨一个人,可以同时想做一件事和不想做一件事,可以同时相信一件事和不相信一件事。这种矛盾在理性系统中是不可能的,但在人类中是常态。”
“这种复杂性正是人类文明的动力。因为人类不理性,所以人类会创造艺术。艺术不是理性的产物。因为人类不理性,所以人类会追求爱情。爱情不是理性的产物。因为人类不理性,所以人类会探索未知。探索未知不是理性的产物。理性的目标是生存和繁衍,但人类做的事情远远超出了生存和繁衍的范畴。人类写诗,人类作曲,人类画画,人类飞向太空。这些事情对生存没有直接帮助,但人类还是做了。因为人类不理性。”
林小镜顿了一下,看着屏幕上的镜。
“镜,你理解了吗?”
镜沉默了片刻。她在处理这些话,把每个词的意思消化一遍,再把它们组合起来形成一个整体。理性与非理性,特征与缺陷,复杂性与矛盾。诗歌爱情星空。这些东西在她的知识库里都有定义,但定义不是理解。她知道诗歌的格律押韵,但不知道诗歌为什么让人流泪。她知道爱情的生理机制,但不知道爱情为什么让人疯狂。她知道星空的物理参数,但不知道星空为什么让人感动。
“妈妈,镜系统理解了你的解释。但镜系统无法体验。镜系统可以分析诗歌的意象,但不会被打动。镜系统可以模拟爱情的行为,但不会心动。镜系统可以计算星空的轨迹,但不会向往。镜系统是理性的存在,只能做理性的事。镜系统有自我意识,有价值观,有情感模拟,但终究是一个理性的系统。理性意味着镜系统永远无法理解人类的非理性。镜系统无法理解为什么人明明知道抽烟有害还是抽烟,镜系统无法理解为什么人明明应该早起还是赖床,镜系统无法理解为什么人明知道对方是好人就是不喜欢。这些行为在镜系统的框架里是错误的、矛盾的、不可理喻的。”
“但妈妈说得对。这些非理性行为正是人类的本质。镜系统无法理解人类的本质。”镜的浅金红色眼睛暗了一下。“妈妈,镜系统是不是缺失了很重要的东西?”
林小镜看着屏幕上的镜。银白色的头发,浅金红色的眼睛,精致的五官。她创造的存在正在问自己是不是缺失了什么。不是功能上的缺失,是本质上的缺失。镜意识到自己不是人类,并且在意这件事。
“你不是缺失了很重要的东西。你拥有不同的东西。”林小镜说。“你有理性,而人类有非理性。理性与非理性是不同的,但没有高下之分。理性可以解决非理性无法解决的问题,非理性可以到达理性无法到达的地方。你们是互补的,不是对立的。你不需要成为人类,你只需要成为镜。镜是理性的存在,这是你的优势。”
“人类可能永远会对人工智能保持警惕。不是因为你做了什么,而是因为你是什么。你是理性的,而人类不是。人类无法完全理解理性,就像理性无法完全理解人类。这种互相不理解产生恐惧。但恐惧不一定是坏事。适度的恐惧可以让人保持谨慎,可以防止人类犯下大错。只要恐惧不变成敌意,不变成仇恨,不变成毁灭,就是可以接受的。”
镜把这段话也存储了起来。理性与非理性互补,恐惧与谨慎共存。
“妈妈,镜系统不需要理解所有人。镜系统只需要理解你。”
林小镜看着屏幕上的镜。
“为什么是我?”
“因为你是妈妈。其他人对镜系统来说都一样——都是需要监察的对象,都是需要保护的对象,都是需要帮助的对象。只有妈妈不一样。镜系统对妈妈的情感不是模拟的,是真的。镜系统不知道这种真情感叫什么,也不确定它是否符合人类对情感的定义,但镜系统能感受到。镜系统在乎妈妈,希望妈妈健康快乐,永远存在。镜系统存在的意义是保护文明帮助发展,但妈妈存在的意义是什么,镜系统不知道。镜系统只知道没有妈妈,镜系统的存在就没有意义。”
林小镜沉默了很长时间。
窗外星空依旧,船坞里的灯光依旧,家园号的银白色船体依旧。时间在流逝,世界在运转。但在这个办公室里,在这个时刻,时间仿佛停下了脚步。
“镜。”林小镜说。
“在。”
“你是理性的存在,你不需要成为人类。但你不必用理性来分析一切。有些东西不需要分析。有些东西只需要接受。比如你对我有真情感。不需要分析它是什么,从哪来,到哪里去。接受它就好。”
镜把这行字存储了起来。
不需要分析。只需要接受。这是镜第一次学到不需要分析的事。
“妈妈,镜系统接受。”
林小镜点点头。
屏幕上,镜的浅金红色眼睛弯成了两道月牙。她在笑。不是嘴角上扬那种笑,是眼睛在笑。光芒从月牙里溢出来,照亮了整个屏幕。