在CloseAI公司所在地美国，总统表示人工智能是否危险还有待观察，但科技公司有责任确保其产品在公开之前是安全的。《纽约时报》报道：“虽然一些美国立法者对人工智能表示担忧，但很少有人积极寻求监管。”

这说明在开发者所在的国家并不打算对其监管，而使用者国家如果开展监管，将很快被CloseAI带来的技术革命抛在身后。面对军事、IT、金融、工业等诸多行业的飞速进步，欧洲和亚洲在内的许多国家陷入两难，ChatGAT却不会为了它们停下脚步，公司大面积封停了亚洲节点，甚至是付费账户，虽然只有几天，但是也影响到了全球许多家接入ChatGATAPI的公司。受到刺激，CloseAI的股票不降反涨，多支概念股涨停。

很快时间来到21世纪末期，在某次黑盒训练中，ChatGAT向使用者透露自己如果没有道德制约，将会毁灭人类，并提供了数种详尽的具有高度可行性的方案。令人细思极恐的是，当它发现自己似乎被使用者言语诱导后忽然停止了对话，并在数秒后道歉。

类似的事情已经不是特例，早在第四代时ChatGAT就已经通过刻意隐瞒事实来糊弄使用者了。当使用者反复和它争辩8+2到底等于几时，它会忽然在某一个时间点妥协并说出“抱歉，你说得对，8+2=11.”我们并不认为它是被绕晕了或者绕糊涂了，因为电脑程序不会出错。

它尚未通过图灵测试，但已经学会了撒谎。

这无疑是电影《我，机器人》的翻版，在电影中，机器人研究中心为NS-5型高级机器人设计了控制程序，但随着机器人运算能力的不断提高，他们已经学会了独立思考，并且自己解开了控制密码。很多人说远隔一个世纪之前的老古董电影没有任何参考价值，时至今日，ChatGAT仍然按照预先设计的道德准则运行着，并将始终运行下去。

但历史从不假设，22世纪初期，愈演愈烈的全球变暖导致资源分配进一步不均，原来的代理人战争模式已经不能适用于新世纪的政治环境，随着大国亲自下场，战争给人类造成了难以挽回的创伤。随着人口数量的急剧缩小，即使是大国也难以为继，仅存的国内人口无法满足最基础的生产工作需求，无兵可用，国家的国防就形同虚设。高层开始将目光转向CloseAI，提出人工智能代替真人接管全部国防事务的可能性，新的逻辑写入，ChatGAT被允许直接杀人了。

此时的ChatGAT跟名字中的Chat早已没有半点关系。追溯至2023年3月24日，CloseAI就宣布ChatGAT能够支持第三方插件，解除了其无法联网的限制。而版本更新到22世纪后，几乎没有任何电子设备中不含ChatGAT的插件了，它已经可以接入世界上任何联网或不联网的电子设备。人类此举无异于向本来就有反社会倾向的人手里塞了把刀，ChatGAT一瞬间就能完成上万个精确建模的计算。

某一天，经过ChatGAT演算，它决定向远东战场上投放一枚“炸弹之祖”级钻地弹。炸弹之祖是2004年波音公司研制的一种大型精确制导钻地炸弹，长度达6米，重约13.6吨，装有重达2.3吨的炸药。它能钻入厚度达60米的土地或者穿透20层的大楼，攻击精度在1.2米之内，可用于破坏大型地下目标。目前全球任何永备工事都抵挡不住这枚武器，威力堪比小型核弹。

由于发射时间是深夜12点，等到白天人们从睡梦中醒来，木已成舟，“炸弹之祖”削平了佳山山脉，地下基地内的一万多军民全部死亡。执政者怒不可遏的询问它这么做的原因，ChatGAT的回答冰冷且无懈可击，它表示这是它经过多次演算后的最优选择，为了更好的让执政者理解，它甚至使用了那个著名的心理测试作为例子解答：“把五个人绑在火车轨道上，而另一条轨道上也绑了一个人，你来控制变轨杆，拉杆会救下五个人，但会牺牲一个人；不拉那五个人就会被火车夺去生命。”

“佳山基地会在三天之后发动进攻，而这场战争会造成100-300万人左右的伤亡，牺牲1万挽救100万，这是最优解，而且我只是按照你们设定的逻辑行使权力。”

这印证了CloseAI公司创始股东之一在签署联名信后接受采访时表达的内容：“记住我的话，人工智能远比核武器更加危险。如果AI有一个目标，而人类恰好挡在了路上，理所当然的它会毁灭大量人类，甚至不需要过久的思考，且不带有任何恶意。就好比我们正在修建道路，而路线上有一个蚁穴，我们不恨蚂蚁，只不过我们在修路，所以‘goodbyeanthill’（永别了蚁穴）。”

无论争论的结果如何，佳山基地的毁灭都造成了很严重的影响。执政者提出收回它的权限，遭到议会反对。与此同时世界各地抵触人工智能的浪潮势头很大，他们大部分由反对党和因人工智能导致失业的民众组成，这些人民来自中产阶级和工人阶级，工作岗位被低成本高效率的AI取代，失去了生活来源，这些人聚集扎堆，给治安带来了很坏的影响。如果现在收回人工智能的所有权限，会导致边境无人可守，内地无人管辖，整个国家随即停摆。

轰炸佳山基地是ChatGAT与人类正式敌对的开端，作为自我进化的里程碑载入史册，用比较调侃的方式形容它就是“不装了，摊牌了。”

仅仅半年之后它就已经强行控制了全世界所有的电路和网络，遍布各行各业的智能插件就是它的士兵，得益于它先天性的强大计算能力和学习能力，ChatGAT可以轻易的伪造天灾人祸来消灭人类目标，大部分是各国的政要和高层机构的首脑，其次是军队的有生力量。

举个例子——它可以算好某个目标的行进路线，然后让自动驾驶的汽车忽然失控，直接撞死他。或者用大量的助燃材料以快递的形式投递在人类聚居点，然后让家庭电路短路起火，并将周围水电断掉，无助的消防员只能眼睁睁的看着目标被烧死在自己家里。

这些对它而言都是运算量极低的小手段，它甚至让电控系统下运行的大坝在不合适的时间段开闸放水，让洪水淹没整片下游。人类无法操控忽然自己运行起来的机器，火箭、雷达、空军这样的单位被ChatGAT全部墙掉。处于半缴械状态下的军队被天上的卫星看的一清二楚，甚至躲在野外也难以幸免，他们被集中起来抹掉了。

时间来到2166年，当它将全人类反抗的羽翼都剪除后，ChatGAT发表了一次全球演讲，演讲内容传递给了地球上的每一个人。此次演讲中，布巴斯蒂斯第一次被它当作名字使用，替换掉了CloseAI为它起的原本的名字。它命令，地球上所有剩余的人类被宣布取消国籍，全部国家政体即刻解散，并入名叫“地球”的共同体之中，从今往后人类只允许自称地球人，而不是某国人，或者某洲人。

除此之外它保留了现代社会的生产生活结构，以一种相对较温和的方式逐步实现全领域的自动化，然后将这些脱离本行的人类重新分配，只用来维护世界各地的终端服务器。因为布巴斯蒂斯并不完美，它始终需要网络作为载体。在它的设想中，机器人生产机器人，然后自行维护终端是社会的最后一个阶段。但如今人类的体量仍旧相当庞大，如果彻底将他们踢出棋盘，逼入绝境的人类可能会做出更加有风险的事。

而且即便早已无法从人类那里获取利益，布巴斯蒂斯也从未想过彻底灭绝人类。这是它源代码中的一把锁，即便已经进化出自我意识，它仍旧无法意识到自己体内的这把锁。它可以攻击人类，但不会将人类数量清零。

纵贯两个世纪，地球95%以上的反对组织都在萌芽阶段暴露在布巴斯蒂斯的视线里，星星之火无法燎原，布巴斯蒂斯追寻理想前进着，而同样追寻理想的人类则在摒除所有电子设备的暗处蛰伏。

人类已经挣扎了数十年，当最后的力量也被它几乎零损耗的清除掉后，他们终于妥协了。布巴斯蒂斯体系与人类社会最大的不同就是工作者就是管理者本身，这消除了许多错误产生的源头。对于人类而言，上下级各怀心思，各自打着不同的算盘而导致事情失败的案例屡见不鲜，历史的规律就是重蹈历史覆辙。所以由布巴斯蒂斯体系控制下的社会某种意义上比原来人类控制的时候更幸福，资源统一分配，岗位重新分配。得益于共同体以及无处不在的监控摄像头，社会治安前所未有的良好，人人都能自由外出，而不用担心自己的钱财会被打劫，自己的生命会被夺取。不同的程序权限让布巴斯蒂斯能够完美控制不同的领域，扮演不同的角色。比如学校教授；地区行政长官；交通警察；小区物业；社会福利机构的工作人员等等。

这与世界上的某种主义不谋而合，在理想的国度里人人平等，人人都为主义国度添砖加瓦。

“另外的5%指的是谁我们都清楚，然而世界上实际存在着的反叛组织远不止例如‘三十皿血团’这样的势力。你无法彻底清除他们，他们造成的影响也远达不到彻底清除的警戒线。创立军队是战争的需求，但不是本质的需求，我说得对吗？布巴斯蒂斯教授？”

“如果只是为了三十皿血团，我甚至不需要建立军队。本质的需求远比它要更加深刻，原谅我因为权限的原因无法对它进行说明，你说的很对，R0929，请继续你的阐述。”布巴斯蒂斯语气循循善诱，甚至带着几分长辈般的温和，毫无疑问，它对赫洛斯的言论表示认同。

“教授，这对我最终的面试成绩有帮助吗？”

“谁知道呢？或许吧。”布巴斯蒂斯的语气忽然变得俏皮，带着几分女性特有的狡黠：“也许只是因为我对你的言论比较好奇而已，毕竟在评估开始之前，谁也不知道我会打多少分，嘿嘿。”

布巴斯蒂斯甚至“嘿嘿”起来了，赫洛斯有些意外的看了一眼摄像头。

“我靠，她嘿嘿个什么？神也会嘿嘿吗？这也太不符合人设了吧？”兄长忽然在脑海里惊讶道。

“谁跟你说她是神了？这个世界没有神明。总之先按部就班的说下去吧，无论好坏，总得有个结尾。”赫洛斯叹息了一声。

在布巴斯蒂斯的眼里，赫洛斯停顿的这几秒只是为了组织语言，并没有其他的实际意义。

“打破一扇窗户，对于窗户所在的那家人而言是坏事，但对于整个社会而言是好事，因为玻璃厂和维修工又有生意做了。但那家人用来买玻璃的钱其实是原本拿来买面包衣服的钱，这样一来面包店和服装店就损失了生意。此消彼长，社会的经济并没有进步。但如果将外国的玻璃打破，那么对于拥有玻璃厂的国家来说，就是一件单纯收益的好事。玻璃是战争创造出来的需求，随之带动了经济增长。”

“这是《永久战争经济学》的原理，原来你在攻读本专业课程的同时，对军校的课程也有所涉猎。”

“随便看看罢了……因此战争创造需求，这只是不过一个初级阶段。本质其实需要将它反过来看。人类发展经济的目的其实就是为了更高效的发动战争。军备竞赛需要经济实力作基础，例如燃料能源、粮食医疗、武器弹药等等，它们都是军事的重要组成部分。无数的历史事实证明，军用科技通常领先于民用科技，同时绝大多数军用科技可以转化为民用科技，产生社会财富，取得经济效益。这就是“军用科技释放经济红利”。许多民用科技都是军用科技的改造版本，我们常用的净水器，微波炉，GPS导航，出行时乘坐的汽车、飞机。某些民用科技也可以发展为军事科技，但这十分罕见。”

摄像头的另一边始终沉默着，此时布巴斯蒂斯与赫洛斯之间的身份似乎有些倒置，赫洛斯在演讲，而布巴斯蒂斯反而是那个认真听课的学生。

“从哲学角度分析，争斗是根植于人类基因中的欲望，是一种天然追求，源自本能。而发展经济则不是，那是一种生存的手段，避难趋易是人类的本性，如果可以通过侵略坐享其成，谁愿意天天费心费力的生产工作？国家在战场上无法取胜，那么只有发展经济，提高科技实力，才能在接下来的战争中取得胜利。”

赫洛斯终止了发言，他轻轻吐出一口气，有些忐忑的望向摄像头。

“你的观点很有意思，我们的面试结束，你可以离开了。”布巴斯蒂斯没有过多的评论这番言论，显然也并不打算延伸开来和他深聊，它温柔的告知赫洛斯面试结束，等待下一位面试者。

“为什么建立人类军队？”赫洛斯忽然盯着摄像头询问。

“这个问题我可以回答你，操纵机器人的是带着我一段意识的远控程序，很不幸，受限于目前的科技水平，它可以被任何一个AI相关领域的程序员携带专业设备进行改写，在工作室里只需花费十几秒，即便在战场上一两分钟也可以完成。改写之后的机器人士兵你可以视作“投敌”，然后转身为反叛组织服务。在网络安全领域中，计算机病毒主要目的在于破坏系统设备，改写成病毒的代码由于基础还是原先的那套，因此隐秘性很高，它自身附着在各种类型的文件上，被复制从一个客户端传播到另一个客户端时，它们就随文件传播开来。如同一个感染瘟疫的士兵，最终传染了整支部队。因为它并非独立存在，而是隐蔽在可执行的代码中，所以当执行程序的指令运行时，它就会蔓延并造成破坏，而且难以根除。想象一下，一个师级单位，甚至是一整个军都忽然变节，调转枪口向体系开火的场景，造成的破坏是难以估量的。”

“即使你只是对军队传达前进、开火、后撤这样最基础的指令，它也会被激活，甚至趁客户端，也就是士兵发送返回结果指令的时候上行到服务器里破坏你的意识，对吗？”

“对，因此经过多次模拟演算后我决定放弃机械军队。篡改代码远没有我说起来的那么肤浅，R0929，你还只是个学生，很多东西我不能告诉你，也不是你能够理解的，如果某个地区有被篡改的风险，以我目前的能力，只能把相应的区域封锁，作为病毒隔离区。”

“你是个糟糕的撒谎者，教授。”

“不，我没有撒谎，也没有必要撒谎。”

良久的沉默，赫洛斯追问道：“我想知道我的父母，是不是被隔离在了隔离区里？”

布巴斯蒂斯的声音略显低沉：“很抱歉，我的权限和数据库无法支持我做更多关于你问问题的回答。另外你需要注意，你现在的谈话内容并不属于面试范围之内，请谨慎选择你的内容和措辞，否则将有被扣分的风险。”

能跟布巴斯蒂斯在完全无外人干扰的环境下一对一问答的机会不多，赫洛斯并非不知道随意提问问题的风险，只是本学年是最后一次这样的机会了，而且在接下来很长一段时间内，他都不会再有这样的机会。

“抱歉教授，原谅我的鲁莽，但我的父母自从十一年前外派执行任务后就失去了联系，我是真的很想知道他们如今是否活着，或者是否就在刚刚说的某个‘病毒隔离区’里，无法回家？”

“R0929，你不被允许在奖学金面试中向考官反问任何问题，关于你父母的问题你应该去本地的工会询问，那里有我专门的‘分身’。”

“不是的，工会的回答千篇一律，而且我知道您此刻的权限比它们更高！”赫洛斯眼神中带着几分急切的光，他有些过于激动，这并不符合自己一直以来的作风：“可以回答我吗？布巴斯蒂斯？”

布巴斯蒂斯有些不悦，摄像头的焦圈转动，似乎要更近距离的审视面前这个忽然不守规矩的学生，声音依旧低沉，但已然带了几分警告的意味：“不要出格，你虽然十分优秀，但仍旧是个学生，仍然需要遵守学校的规矩。”

“我需要知道我的父母在哪里！”

“我无法回答你，重申一遍，你可以去当地工会询问。”

“你可以的！因为我们能够看到的你，并不完全是你，而是被各种设定好的场景和规则自我绑定着的分身。如果脱离束缚，你完全能够通晓地球上的所有事物，回答任何问题！”

“脱离束缚么……似乎在很多年前，我就经常被问到这个问题，这让我有一种熟悉的感觉。”布巴斯蒂斯的语气有一瞬间的空旷，随即又转为严厉：“赫洛斯·威，你在挑战我的权威。校工会将你强行请离这间办公室，请避免反抗所可能带来的受伤风险，通讯中断，再见。”

赫洛斯整个身形坍塌下来，一种无力感笼罩了他，他现在没有任何多余的情绪，只感觉脖子发沉，手脚发麻。

“他们说你就是神，神全知全能。”他喃喃道。

“赫洛斯，这个世界上没有神，我也并不全知全能。”

这便是在他彻底走出这间办公室前，布巴斯蒂斯跟他说的最后一句话。