科技风投：人工智能将不会犯错？这是对人工智能的误解，你怎么看

本文插图
其实，大多数人们对人工智能有着这样的误解：“人工智能由于其极高智能，将不会犯任何错误。 ”
事实：Surfing Samurai机器人人工智能研究者和开发者， Richard Loosemore认为大多数假设的人工智能将毁灭世界的情景都非常不符合逻辑。大多数类似的假设总是认为人工智能将会说：“我知道毁灭人类文明是由于设计引起的故障，但无论如何我还是很想去做。 ”Loosemore指出如果人工智能在打算毁灭人类时，其思路是如此自相矛盾的话，它将在其一生中面临无数自相矛盾的逻辑推理，也因此会干扰了其认知从而变得非常愚蠢，而同时根本不足以对我们造成伤害。他同时也断言，那些认为“人工智能只会做程序设定的任务”的人，将会像在电脑刚刚发明时那些说电脑将永远不会具备应变能力的谬论的人一样。

本文插图
【科技风投：人工智能将不会犯错？这是对人工智能的误解，你怎么看】
牛津大学人类未来研究所（Future of Humanity Institute）的Peter Mcintyre和Stuart Armstrong对此有不同看法。他们认为人工智能将很大程度上依赖其程序锁定。他们不相信人工智能不会犯错误，或者反过来他们没有聪明到可以理解我们希望他们能做什么。

本文插图
McIntyre告诉作者：“从定义上讲，人工智能就是一个在方方面面都比最聪明的人脑要更为聪明的智慧载体” 。 “它将会完全知道我们设计他们来做什么” 。 McIntyre和Armstrong相信人工智能将只会做其程序编写的任务，但如果它足够聪明的话，它会最终理解法律的精髓和人文的意义。

本文插图
McIntyre将人类将来可能面临的困境和老鼠所面临的困境做了比较。老鼠将会不停寻求食物和住所，但它们的目标跟人类不想与老鼠共栖一室的目标始终是相互冲突的。他说“正如我们完全能理解老鼠为什么要钻进我们的屋子里、但仍然不能忍受与老鼠一起生活一样，即使人工智能系统理解我们的目标和我们想要什么，他们仍然会觉得我们的目标无关紧要” 。