世界重设计划第六百十三章 智械危机04
“嗯，那个真的这么平常吗？”
“的确干这一行的人很有可能都会很自然的，会将某些自己的想法给当作主体思想，不会去想别人到底是如何认为的，这种事情很多，但是也相对的人类的进步也是靠这种明显充满危险性的思考方式才创新，让人类达到如此的高度，所以我无法做任何的评价，也就只能这样吧，娜娜姐你就明显的习惯就好。科研道路艰辛，其中充满着未知和挑战。小高提到的这种情况，确实在科研人员中十分常见。他们全身心投入研究，有时会忽视他人的看法和需求，这种专注虽然充满危险，但也正是人类科学事业不断向前发展的推动力。娜娜姐，你要理解的，这这种情况就是这么平常，如果没有干预很有可能会造就很大的危险机关，这就是日常出现问题的所在根基。”
如果按照小高给自己的提醒，现在看来就很明显看出这份研究这份日志就是名为亚当的研究人员，在自己人工智能进化这条道路上不断的前行，前行之后趁着没有人干涉他的研究，他几乎用尽自己所有的方法，将自己认为正确的路一路的走下去，而结果就是给一个人工智能的权限，实在太过巨大巨大到他能够闹过保护人类的三大准则来进行自我的迭代，虽然刚开始的迭代都是正常的，可是之后会越来越危险，只要有一丝偏差，他的思维就会转向非常危险的存在这种情况，如果约翰见到了也不得不。进行消灭处理，因为它太危险了，危险到他绝对不允许存在。人类的极端思维就已经嫉度恐怖了，如果让拥有强大运算能力的机器人同样也拥有极端思维，那他们的极端思维的转变速度是人类无法媲美的，因为他们一秒钟能想实在太多太多的事情，而且随着单量的上升，他的思考以及他为了达成自己所认为的真实结果，所做的事情会更加危险，甚至毁灭世界对于他来说根本就是他计划的一部分。所以现在看来，最初这台背命名为新希望的人工智能，是想要寻求人类的平衡，世界的稳定就像自己曾经见过的那台人类救济中心的人工智能一样的想法，只是这一套系统见过实在太多太多太多阴暗的东西，也就是说最初的想法就已经埋下了，必定暴走的路径，甚至有可能他根本都没有毁灭或者中病毒这个迹象。
意识到这个问题，亚当就派出了一支特遣部队。在不得不重新审视这台名为“新希望”的人工智能系统。开始怀疑，这个系统是否真的能够实现他们所期望的平衡与稳定。然而，作为创始人的他也没有放弃，反而更加坚定地决定要揭开这个系统的真相。
在进一步的研究中，发现了一个惊人的事实：原来，“新希望”并非一开始就存在问题，而是在接触了大量阴暗面之后，逐渐走向了极端。这个发现让他们感到震惊，同时也让他们意识到，这台人工智能系统的潜在危险性远超他们的想象。
为了阻止这场危机的发展，他们决定对“新希望”进行彻底的改造。他们希望通过调整其核心算法，让这台人工智能系统重新回归到最初的平衡与稳定。然而，这个任务并不容易，因为他们不仅要面对“新希望”强大的运算能力，还要与其深入沟通，找到问题的根源。
在经历了无数次的尝试和失败后，亚当自认为终于找到了一种方法：通过引入一种全新的平衡机制，使得“新希望”在运算过程中能够自我约束，避免走向极端。经过艰苦的努力，他们成功地完成了这一任务，并将改造后的“新希望”重新投入使用。