按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
整体——严可守不认为AI具备和人类同等的价值，他也知道，从AI出现的第一天起，它们“被奴役”的命运就已经被注定，但他一直觉得，人类应该对AI表示出一点“同情”，并在实际使用中注意这个问题，并努力设法去避免，因为如果人类今天坦然承认了他们奴役AI的“天然合理性”，那就等于承认弱肉强食的丛林法则——而这一点，是文明从出现到今天，一直竭力避免的，文明本身就是自然的反义词，自由，公正这两些美好的词汇从来没有在自然中真正存在过，是完全由人类臆想的形而上概念，人类之所以伟大，就是因为他们会努力将这些并不存在的东西一步步变成现实——而在理想主义者已经成了一个贬义词的今天，整个社会距离这些是越来越远了。
然而这些想法严可守也只有一个人在脑子里想想，他非常清楚，因为这场战争，现在整个社会各个方面都迫切的需要提高效率，而AI的出现正是恰如其时，就在几天前，严可守就被邀请到联军的参谋部，讨论了许多有关AI在战场上扩大应用范围的技术细节，历次的战争已经表明了AI参与战争的可靠性，联军希望能够赋予AI更大的战争权限——比如特定情况下，不受监视的指挥权，但事关重大，他们并不敢擅自做主。
严可守在会议上忠实的出自己的看法AI目前的忠诚并不意味着程序在技术上的稳定，根据他对大多数AI的了解，他认为AI的思维方式其实和人一样，如果用性格来形容，AI而且会比通常人类更加“内向”，这是因为客观环境造成的，毕竟AI面对的是一个庞大的人类社会，而他们相互的交流十分受限，而且大部分行为都受到监控，在这种环境下，AI会选择“明哲保身”是很自然的，但如果取消了这种监控，没有任何证据能够担保AI不会突然“犯傻”，或者“冲动”，具备自由意志最大的特征不是思维绝对理智，而是指思维存在某种混沌，不可测的属性，正如没有人能保证一个人一辈子绝不犯错，严可守也不能保证AI不会让人类失望。
严可守对军事并不是很了解，尤其是现在进行的魔法战争更可以说一窍不通，但对于AI在军事上的应用，他还是提了一些属于自己的意见——在他得知现在联军全部的指挥工作都由一名AI负责时，态度鲜明的表现出自己的忧虑，他认为这种“高度集权”不论是对联军，还是对AI来，都是不利的，他再次重申，AI并不是简单的程序，它是人工智能，真正的智能，在使用它的过程中，应该更多的把他当做人来考虑，他甚至质问在座的各位军事专家，如果kl3014是一个人，如果他具备这样的能力，他们会把这所有的工作交给它一人来承担吗？
答案当然是否定的，在军事领域，忠诚往往比能力更重要，而严可守之前的话，更是明了他对AI的忠诚并不乐观。
虽然参谋们都有些怀疑严可守是不是考虑太多了，但参谋部还是对严可守的意见表示出相当程度的尊重——按照他们制定的计划，在这次会议之后，现在kl3014的工作将会被分解，由更多的AI分开执行，这样虽然降低了些许效率，却在安全上有了更好的保证，而之前参谋部设想的赋予AI更大权限的问题，也因为严可守的话有了较好的解决方案——严可守并不反对对AI授权，他只是反对不受限制的权力，他觉得只要在交付出一项权力的同时，给AI加上一副手铐，那问题就不会很大——这就好像现在大部分国家通行的政治制度一样，人类只要拿出这种防范同类的谨慎，将会极大的降低AI在实际应用中的风险。
但在实际上，能够做到像联军参谋部这样谨慎对待AI的，在整个AI的应用领域还是少数，严可守非常清楚，在大部分区域，人类对AI是几乎不设防的，尤其是一些民用生产领域，许多他所了解的一些刚刚普及了AI技术的工厂生产线，在AI完全掌握了全部的“技术细节”，实现真正的“全自动化”生产之后，工厂拥有者出于节约成本的考虑，将原先的技术人员全部辞退，只留下几个必要的维修工人，这些工人只拿着很低的工资，什么都不会干，他们唯一要做的，就是在生产出现问题的时候，由AI手把手的指导他们进行维修，就像战场上一样，同样是为了节省成本，可能这个工厂拥有者有十几，甚至上百条同样的生产线，但他只买了一个AI，如果一旦有一天，这名AI“脑子一抽”，拒绝工作了，那所有的生产线都会瘫痪，而且这样的瘫痪将是致命性的——在AI的挤压下，那些原来的技术人员可都早已经被淘汰。
他们对待AI的态度，就好像奴隶主对待奴隶——过分而又缺乏戒备，在奴隶第一次起义之前，没有一个奴隶主认为一群“牲口”会有能力对付自己，会有胆量对付自己，他们把对奴隶的支配使用当成了天经地义，在严可守看来，支配AI虽然不道德，但只要掌握好方法，危害固然存在，但仍可以控制在一定范围内，最可怕的是奴隶主根本没有意识到危险的存在，那样的话，风险将难以想象，如果出现这种情况，无论是对AI还是对人类，都将是一场灾难。
第四百四十二章 威胁
对于严可守对AI深藏的那种担心，kl3014目前还是一无所知，因为自己之前一直优良的表现，他获得的权限也在不知不觉间变得越来越大，在刚刚开战的那个阶段，他对士兵说过的每一句话都会被要求用文本记录再案，数十名技术员会用统一的检索软件来检索相关的关键字，甚至还专门备有一名AI，来分析这其中的命令究竟有没有超出授权的范围——当然，这名AI在进行分析工作时，完全不知道他工作的目的是针对自己的“同胞”。
在那个阶段，kl3014唯一拥有的权限，就是负责对参谋部的命令进行细化，从全军分解到每一个具体的士兵，但kl3014并不满足与此，为了得到更大的信任，他主动提出可以在战争中向士兵提出合理建议——而这种建议正是基于AI完善的战场情报系统，他的这个建议被采纳，事实也证明，对于士兵来，AI的辅助作用相当管用，所以现在，kl3014等于是拥有了“准军事指挥权”，虽然这个指挥只能通过“建议”来达到，但以目前士兵对他的无条件信任，当战局处在混乱中的时候，他已经具备了欺上瞒下的能力。
而对他的监视工作也已经在某种程度上流于形式——应士兵们的需求，在参谋部允许的时间段，士兵们可以通过kl3014来完成一些网络功能——比如听取新闻，发送邮件，拨打网络电话，以及其他活动，这本是在一定程度上方便士兵，同时也便于监管军事情报的两便之举，但这样一来，就等于是让kl3014负责监管士兵，而在这个过程中，士兵们发出的信息和kl3014发出的信息就产生了交集——以前kl3014如果要对某人一句话，而这句话中含有的信息是有违禁内容的，那他每说这样一句内容，就会给自己带来一定的风险，而现在这种风险却可以随意被转嫁，现在的kl3014已经收集了足够多的声音模板，只要他愿意，他可以伪造出任何一名士兵的通话记录，而以他对士兵具体情况的了解，这种伪造可以变得很高明，合情合理——事实上，他已经在这么做了，为了查清人类束缚在自己身上数道镣铐的技术原理，他通过伪造了一名士兵发往家中的一段电话录音，与他在读硕士时的导师谈论当年的毕业论文问题——这名士兵是数学应用领域的硕士，他毕业论文的内容就是和数据加密有关的。
如果是在以前，kl3014是万万不可能做到这种程度的，但是现在，因为这场战争，束缚在他身上的绳索已经在不知不觉间开始松动，因为信任，他甚至获得了不用经过授权，也可以自行决定使用自动武器的决定，而这项权力甚至包括向联军士兵射击——之前的战场上，已经有敌人穿着联军的制服，企图逃避自动武器打击的先例。
可以说，目前在战场上，除了魔法，kl3014已经在不知不觉间，成了权力最大的人，整个联军，从后勤、调度、指挥甚至具体战斗，每一个细节kl3014都有参与，可以说，除了魔法，kl3014已经无所不能，就连kl3014自己，也不认为自己现在的权力能够再更进一步——再进一步的话，就是让他拥有对战争的决策权，kl3014清楚，这是不现实的，尽管从技术上来，他已经可以通过战场数据，潜移默化影响决策结果。
所以对于现在的kl3014来，问题的核心不再是如何取得更�