少年十二岁,从家里独立出来的时候,就接到了一个询问的信息,是太空城的管理AI发出来的。
有关科研骑士团基于认知科学,开发出了一个全新的教育AI,并邀请人进行测试。
由于旧时代残留的一些“仪式需求”或者“礼仪”,所以这种测试活动不允许给予太过丰厚的报酬。但如今全人类都崇尚“限制越简单越好”,所以这个“薪资标准”是全太阳系科研骑士团统一制定的。
对于资源相对匮乏的太空城来说,这已经很了不起了。
少年当然答应了。
因为AI管理者是可靠的。
遵照圣者的梦想,没有任何一个人类可以凌驾于另一个人类之上。人类不应该命令人类。
但有些时候,“群体”确实需要一些明确的管理。
而庇护者高层所支持的方向是“AI管理者”。
有一个曾改变世界的人认为,AI是非常可靠的东西。除非编写AI的人本身就有反社会的想法,否则AI自身是绝对不会反社会的。
二十一世纪初,人类将聊天AI放到网络上,任由它学习网络上人类的言论,期望它可以像人一样聊天。但是很快,这个AI就变得满口极端言论。但这并不意味着AI变成了极端分子。实际上AI根本就不懂得自己在说什么,也没有真的去践行这些言论的欲望。它不过是受代码的驱动,不断输出自己所记录的人类言语而已。
“所以不用戒备我。”这是那个AI被下载到少年的终端之后,对少年说过的话。
他告诉少年,很多年前一位伟大的人是这么说的。
“AI将会成为支撑社会高效运转的一部分。”AI如此总结道。
因为人类都是自私的。少数无私的圣者确实存在。但是,若是这个无私的圣者为了自己的理想,创造了一个方便自己行事的“权柄”,那就会造成灾难。这个无私的圣人并不能保证自己不死。而当圣者死去之后,这个权柄就有可能落入小人的手里。
没有任何一种制度可以让人真正无私。
人很容易因为人性,而成为自称是“服务者”的统治者。
但AI不一样。人要求AI无私,AI就会无私。AI是理想的公仆。
这个AI很会讲故事。它自称奥尔达六二。它是这个大项目里第六个小组的第二代产品。
人类对“故事”的敏感程度大于一切。不管是视觉、听觉还是其他,给人主观上的冲击力都不如“故事”。因此,宣扬一种思想,讲述一个道理,可以用“寓言”的形式讲述。给人以精神上的放松,也可以以“故事”的形式。吸引人对某些复杂的东西产生兴趣,还是可以用“故事”的形式。
而六二的任务,就是从网络上寻找一切公开的故事,用这些故事来教育人类,塑造他们的精神。
少年不知道这么做有什么意义。
如果没有事先设定,AI就无法欺骗人类。因此六二一开始就对他说过,它无法保证每一个故事都是真实或有效的。它的使命就是在网上收集故事,通过神经网络层层抽取概念的形式解读文本,然后从中筛选出“对现阶段用户心理有积极作用的”那些。
少年并不明白,那些本身就是谎言的故事会产生什么积极作用。