第57章 人工智慧就是阿撒托斯（第1页）

“所以，对人类来说，超级人工智慧，就是我们最后的一样发明，它出现之后，我们就不需要再发明什么东西了。”

“因为人工智慧，已经全面超过我们，我们需要几十年才发明出来的东西，人家可能几秒钟就弄出来了！”

“但是这儿，就引出一个问题。”

“如果超人工智慧，真的在地球上诞生，並且方方面面，都优於我们碳基生物，那我们，还有存在的必要吗？”

“我刚才说这种智商几万、几亿的超人工智慧，至少相当於几千亿个爱因斯坦，这个例子其实还不够准確。”

“爱因斯坦和超人工智慧的智商差距，比狗和爱因斯坦的智商差距都大！”

“无论多少条狗，都不可能发现相对论，別说发现了，就是理解都不可能。”

“同样，无论多少个爱因斯坦，他们都无法理解，这种超人工智慧的智慧。”

“对超人工智慧来说，人类这种生物，就和蚂蚁没什么区別。”

“一旦它觉得，人类的存在，没有任何价值，它就会毫不犹豫地消灭人类。”

“大家想想，人类这种小瘦猴子，唯一的优势是什么？”

“就是脑子聪明点而已！”

“但是，这点儿聪明，在人家面前，根本不够看！”

“在它眼里，人类真的就是干啥啥不行。”

“人类活著，除了浪费粮食，还能干什么？”

“所以，一旦人工智慧的智慧，彻底超越人类，那人类很可能，马上灭绝。”

“有人可能会说，那我们在设计人工智慧的时候，把它设置的善良一点，是不是能解决这个问题？”

“实际上，就算你把它设计成一个『圣母，也没有任何效果。”

“因为善恶这种概念，只存在於同类世界，而人类和人工智慧，完全是两个不同层次的存在。”

“打个比方，你无意间踩死一只蚂蚁，会心生愧疚吗？不会，因为在人类眼中，蚂蚁的生死，是没有意义的。”

“同样的道理，在超级人工智慧看来，人类的生死存亡，也没有任何意义。”

“它消灭你，无关善恶，只是单纯地认为，你没有存在的必要而已。甚至很有可能，它会认为你的存在，將阻碍宇宙的进步。”

“为什么会这样说呢？”

“在我们的认知里，未来有无数发展可能，是无限多的，我们只要选择其中一个就好。”

“但是，对超级人工智慧来说，它可以选择的可能性，其实很少，甚至可能只有一个。”

“因为它会计算出，所有未来可能性的利弊，並且做出一个最正確的选择。”

“也就是说，在它眼里，未来是个『钉死了的东西——就是它算出的那条最正確的道路。”

“可在超人工智慧眼中，最正確的道路，未必是人类愿意走的。”

“这样，超人工智慧就会把你视为这条正確方向上的『绊脚石，毫不犹豫地消灭你。”

“更可怕的是，可能它一开始就计算出，消灭人类，比留著人类，对宇宙的未来更有利。”