第(2/3)页

    收入也没有被考虑到。当时开发忒弥斯的两个程序员显然没有考虑到世界上仍存在大量的低收入群体，导致了一些面对穷人的不公。比如，“富人为学校捐钱可以换取入学资格”这种事，他们认为并不算坏，因为捐助可以让学校发展得更好——却忽视了由此可能导致的可怕后果。

    在忒弥斯2.0系统中，开发人员吸取教训，从全球人群中抽样出一个群体，用他们的特征来训练子系统，然后再将数量扩增至60亿，来具体判断一件事的性质，或者说，它“是否符合道德”。

    抽样人群多达数万人。人类的大部分道德评判要素都被这些人概括：性别，阶级，信仰……开发人员相信，这一系统可以为一切道德困境，做出二元的判断。

    这一年便被划为新控制论时代开始的元年。它的诞生带着历史的必然：随着全球经济与人口素质的提高，人们越发呼吁一种可以仲裁一切终端的强力机器。这一机器的物质实体是正冉冉升起的世界政府，而它的内在构造，就是忒弥斯等一系列道德评判系统。

    小到夫妻吵架，大到超级大国间的争端，由于热核战争之后人们对武力的极端厌恶，所有人都趋向于使用文明的方式来解决。而如果使用法官审判，谁来审判法官？如果使用陪审团讨论，又如何顾及法庭之外，亿万芸芸众生？

    但也不能真的让一切事情都交给一切人来评判。总不能因为你和水管维修工的纠纷，就叫数十亿人进行一场只有两个选择的投票。

    代替人类进行评判的系统必须存在，它还必须尽可能接近人类群体本身。

    如果把全人类比做一个巨人，那忒弥斯2.0就好比一个侏儒。虽然小得多，却仍旧五官完整，四肢健全。

    忒弥斯2.0很好的处理了大量的疑难问题。比如，“老婆和妈掉水里了该救哪个？”的答案认为应该救妈。毕竟不是每个人都有老婆，但基本每个人都有妈。

    再比如，“为了修建太空电梯牺牲两万人是否应该？”，人们的答案压倒性的表示不应该。因为没人见过太空电梯，但大家都知道死的两万人可能是自己。

    也就是这时，忒弥斯2.0暴露出了它仍旧存在的问题：时效性。自世界政府成立，系统上线以来已经度过了近百年。在这百年之中，人们积累了修建太空电梯的所有技术，却仍因为可能存在的牺牲导致根本无法通过系统的道德性判断。

    类似的问题还有很多。克隆技术下诞生的克隆人合法性问题亟待解决，多性别婚姻与物种杂交的新形势等待方案，自由主义盛行的年代里人们有没有反对自由的自由，而人人平等的权利架构下，生育这件事又该怎么纳入统筹。这些问题，已经远不是多年前的一些老旧系统能够解决的了。

    当然，保守主义者会认为，如果我们和道德相悖，恰好证明我们走错了路。但激进主义者认为，一群面对“是否支持双性别半人马与植入复制版人类意识的四足机器人开展大规模婚配”的问题只会选“是”的系统，已经远远落后于时代了。

    你问为什么忒弥斯2.0里的那些系统只会选“是”？因为它们看不懂问题，只能蒙第一个。

    迈向未来的第一步虽艰难却仍需大胆前进。世界政府作了这几百年来唯一一个“不合法”的决定：对忒弥斯2.0进行升级。讽刺的是，那些子系统似乎全都知道忒弥斯拆除后自己的命运，所以一律反对升级，但世界政府破除万难，在人口普查的同时开展了一次覆盖所有算得上“人”的家伙的投票，结果大家一致同意。

    为什么同意？因为其实大部分人也不明白这个系统有啥用，蒙了第一个选项。

    忒弥斯3.0诞生的纪念仪式上，世界政府的首席行政人员，也叫大交互员，宣读了新系统对人类发展的重要意义。

    “最新版的忒弥斯系统连接着每个人的脑机接口，数据接驳服务器或者生物质脑组织。从今往后，我们会以每天一次的频率，对全人类的意识进行采样，再将海量的数据映射到忒弥斯系统之中。换言之，面对所有问题，我们将团结每一个人，给出最中肯，最符合道德的答案。全人类的同理心，将共同投影在这一块小小的设备中，绽放出无可比拟的道德光辉。”

    为了纪念这种光辉，仪式所在的广场被命名为“道德高地”。从此，如果谁真的站在道德高地上靠近忒弥斯系统，那他可能真的有资格对你进行道德绑架。

    改版的忒弥斯3.0系统实现了一种几乎不可能的道德审判方式，即让全人类站在你面前面对你小小的纠结。有49.7％的人类支持你下午称病逃课，有36.2％的人类支持你去吻心中所爱的那个机器人姑娘，有89.7％的人支持你为了拯救人类牺牲自我——虽说这个是问着玩的。

    所以，当你的老师严厉的盯着你，说有63.2％的人认为不交作业应该受罚的时候，她很可能是认真的。
    第(2/3)页