（今日美政，08/09/2024）
我们之前介绍的，托克马克设想的人工智能的未来，都有一个基本的前提，就是人工智能被开发和发展出来了。然后才讨论人工智能和人类之间的关系问题。但是，我们的未来还包括一种可能，这种可能就是：人工智能根本不被允许开发。请注意，这里的关键，不是人类在技术上无法开发出人工智能，事实上，随着我们对半导体技术和人类神经结构，人类认知模式等不同学科的深入研究，开发出人工智能，只是一个时间问题。因此托克马克根本没有讨论人工智能在技术上无法被开发出来的可能。不是这样的。这里不是说人工智能在技术上无法被发展出来，而是说，人类通过自己的社会组织管理，通过自己的法律和行政，彻底禁止人工智能技术的研究。
这是不是有可能的?
这种模式，被托克马克命名为
1984。这是来自英国著名政治预言作家乔治奥威尔的名著《1984》。这本书描述了一个黑色乌托邦世界，在那个世界里，一个强大的独裁政权监控着社会中的几乎每一个人。
托克马克认为，我们确实有一种思潮，认为技术进步并不能给人类带来更幸福的生活，另外还会带来破坏环境和毁灭世界的风险。所以，禁止技术进步，在很多人，尤其是具有强烈宗教信仰的人中间，是广泛存在的。最极端的例子是英国
19 世纪的
“卢德分子”
Luddite /ˈlʌdaɪt/，他们破坏纺织机，阻止一切具有科技成分的工业生产。（卢德运动有一个背景，就是当时是拿破仑战争时期，拿破仑封锁了欧洲大陆的港口，不和英国人做生意，英国工业产品卖不出去，又没有工会组织，所以资本家竞相压低成本，减少工人工资，导致工人民不聊生而暴动）。还有就是像美国阿米什人那样，自愿保留最原始的生活方式，拒绝一切现代科技。
在这一点上，我部分地同意托克马克的观点。确实很难说现代人的生活质量就比古代的人更高。我们的生活压力比古代人更大，工作小时比古代人更长，或者更直接地体现为我们的自杀率是古代人的好几倍甚至好几十倍。但是我觉得我们还可以换一个角度来看这个问题。我们也许不比古代人更幸福，但我们比他们有更少的不幸。什么意思呢？
这就是说，现代人生存的稳定性大大提高，抗风险能力大大提高。虽然我们和古代人相比，更倾向于杀死自己，但反过来，我们更少地被自然杀死。比如天灾，我们在自然灾难面前的死亡率比古代人小得多，我们在疾病面前的死亡率也比古代人小得多。西班牙流感的死亡人数可能超过一亿人（全球人口不过
18 亿），而在有了疫苗技术之后，新冠疫情的死亡人数只有
700 万（全球人口 80 亿）。在新技术的加持下，我们抗风险抗灾难抵抗疾病的能力大大加强。所以，我们也许不比古代人更幸福，但我们比古代人更少不幸。这是技术进步带来的。
一个比较折衷的态度是所谓 “新卢德主义”，就是说，只有我们确信一种新技术的开发一定是利大于弊的时候，这种技术才是被允许研究的。这看上去四平八稳，但实际操作中很难实施，因为谁都无法准确预测未来。
托克马克认为，如果要想全球范围禁止一种技术的研究，必须要通过一个全球范围的极权政府来实现才行。这个道理也很简单，因为如果一些人，而不是全人类，放弃了一种具有革命性的技术开发的话。那么那些没有放弃的国家或集团就会逐渐累积起足够的能力、财富和权力，从而接管和统治世界。我之前也提到，全球范围内，社会主义干不过资本主义，最根本的原因就是社会主义者所坚持的绝对平均主义，打击了技术开发的热情。资本主义看上去很残酷，但是给野心勃勃的工程师和科研人员足够的回报，让他们研究和开发新的技术。
所以，如果要禁止人工智能的研发，就只可能是全球性的独裁。在这里，托克马克没有详细地说明，到底是全球统一为一个国家来施行这种独裁，还是全球国家仅仅在人工智能这一个议题上达成共识来施行独裁。这其实是不一样的。全球统一为一个国家，更可能实现这种对人工智能开发的禁止；但是，全球统一为一个国家，这是一种遥遥无期的远期设想，这和人工智能的发展速度明显不匹配。或者说，这是两个完全不同时代的东西。托克马克可能没有意识到这一点，而把他们放在同一个历史背景下讨论了。
但是，如果全球不能统一为一个国家，即使全球都是独裁国家，因为存在国家和国家之间的竞争，国际协议是相当脆弱的。这种国际协议不可能限制每个国家悄悄进行自己国内的人工智能研究。因此，对于禁止人工智能这个项目本身来说，又变得不可施行。
所以总之，托克马克认为人类可以全面禁止人工智能研发，这个预测本身，存在一个 “实现可能性极低” 的问题。所以我认为我们其实不必太在意这个预测的未来。但是，托克马克在这里描述的如何实现这种独裁和管控，却是有价值的。我介绍如下。
托克马克在这里引用了前东德的一位秘密警察说法。我们知道在东德曾经有过一个叫斯塔西的秘密警察组织。2007
年获得奥斯卡最佳外语片奖的德国电影 “别人的生活”（也翻译为“窃听风云”）讲述的就是斯塔西对普通东德公民采用窃听的手段进行监视的故事。真实生活中的斯塔西中校施密特，当他得知美国的斯诺登揭发的美国国家安全局的棱镜计划的时候，他感慨道：“你知道，这对于我们来说简直是梦想成真啊。”，他的意思是说，当时斯塔西的监听技术还比较落后，还无法全方面的监控东德的每一个人。但是，随着技术的进步，我们的政府实际上有能力监控每一个人的每一通电话，每一封电子邮件，和每一个社交媒体平台上的发言。
托克马克说，一个全球性的极权政府也能监控地球上每个人的每个电话，电子邮件，网络搜索记录，浏览过的网页和信用卡记录。这种工作不但变得越来越容易，而且成本会快速下降。海量信息的分析也不会有多大难度，具有讽刺性意味的是，这项工作本身，就需要人工智能（当然是比较初级的人工智能）的介入。
这种监控的能力实际上在某些国家，比如中国，已经开始广泛使用。手机定位，人脸识别，网络媒体监控等等，在中国非常普遍。这一方面大大降低了中国的刑事犯罪率，同时也实现了对全民的监控。任何反抗政府的企图，都被摧毁在萌芽状态。托克马克说，如果未来真的有这样一个国家试图施行这种全球性的
1984 式的统治，他们会发现，根本不难，只需要打开开关就可以了，因为技术早就存在了。
甚至，正如
1984 这本小说暗示的那样，甚至都没有一个真实存在的独裁者。老大哥这个人物是否真实存在，1984
中多次暗示，老大哥可能只是党制造出来一个统治符号，老大哥不是一个个人，而是整个体系。所以，未来统治全球的极权政府，也可能根本不是一个人，甚至不是一个党，而是整个一个体系。这个体系也许还有其他的目的，但这里讨论的，就是这个体系可以用现有的监控技术，轻而易举地监控全世界的科学家和技术人员，或者还包括新闻记者，作家，大学教授和知识分子，让他们不能，也不敢进行对人工智能的研究和开发。托克马克说，这就相当于建立一个人人相互监督的体系，这个隐藏很好的，无单一国家领导的国家能够稳定延续数千年，从而让地球上不能发展出超级智能。
在这种全面监视下，托克马克认为，即使有星星之火，他们也无法燎原。
最后我会做一些扩展。如果我们考虑的不是人工智能这个话题，而是极权国家是否能自然变成一个开放的社会，这一期的节目也许更有现实意义。
极权社会是否能实现如
1984 那样的，或者甚至是升级版
1984 那样的全面对社会每一个成员进行监控呢？我认为从技术上是可能的。但在人性上，这种做法可能相当不稳定。因为请记住，这毕竟是一个人类自我管理的社会，而不是人工智能做决策的社会。因此这个社会中依然会到处充满了人性带来的不确定性。既然是人来操纵监控网络，那么就必然会有漏洞，而且有时候漏洞还不会太小。这不是技术本身的问题，而是人类应用技术时产生的。正如最先进最自动化的飞机也会被飞行员的误操作给带到沟里去一样。
这是一个方面。另一个方面，统治阶层内部并非铁板一块，他们中也有利益冲突，或者也有一些人厌倦了令人窒息的政治空气。他们可能是造反派，他们可能是民主派，但他们都对体系本身造成威胁。所以顺理成章的是，统治阶层内部需要进行更加严格的监控和管理。但这就意味着统治阶层内部的人，他们受监控更严重，他们自身的安全感就更差。这反过来可能激发统治阶层内部瓦解的可能性。很多独裁国家都不是因为人民的反抗而崩溃，他们的崩溃更多地来自统治阶层自身的瓦解。这可能是宫廷政变，可能是军队哗变，甚至就可能是最高领导人自己想改变。总之，这种极权统治的最大不稳定性，更多地来自最高层，尤其是可能发生在权力传递的过程中。
这看上去是一种令人放心的未来。但是，人类是非常聪明的，独裁者也会非常聪明。他们的解决办法可能是这样：对于那些掌握核心权力的人，为了体系的稳定，他们必须牺牲掉自己的自由和隐私，必须时刻被暴露在监控之下，甚至处于不安全的境地。但是，独裁者也许在其他方面对他们进行足够的补偿。比如财富方面，子女的安排方面，甚至是个人某种癖好的满足。这是一种交换。而一旦有这种利益交换，就相当于在权力中心形成了一种市场，形成一种建立在自愿交换基础上的选择。这就稳定了很多。目前世界上的独裁国家里，基本上也都是这样做的。至于人民是不是可以发现他们的贪腐和特权，这关系不大，因为，这些信息渠道，完全是政府掌控的。这个问题真的不大。
但是，这依然无法解决权力传递和改变过程中的不稳定性。毕竟极权是一种金字塔结构的权力构架，这就好像金刚石的碳原子构架一样，任何一处的剧烈改变都可能导致整个体系的崩溃。在这个金字塔中，官员们都有改变自己处境的愿望，因为稍高一个层级的权力可能意味着自己更加安全。换句话说，他们大多数人都希望改变自己所处的能级位置。这种内在的不稳定因素，是目前极权社会无法解决的，这也就是为什么极权社会在权力发生更迭传递的过程中，最容易出问题的原因。所以我还是认为，托克马克相信只要实现全面监控，这个集权国家就可以稳定存在数千年，我觉得他还是没有考虑到人本身的不稳定性。
