专访｜诺贝尔文学奖得主石黑一雄：人工智能与人性( 三 ) 韭菜|面皮|满屋|春日|韭菜盒子|文化|中

石黑一雄：在如今的时代，随着数据和人工智能的发展，电脑已经可以预测人类的喜好和偏见，推荐给我们想买的东西，比如当我想看一部电影的时候，会出现很多的推荐，准确得让人吃惊：这些电影都确实是我感兴趣的，其中甚至有一些我自己都闻所未闻的作品，比如冷门的纪录片或是60年前的电影。这已经成为我们生活的常态。我想提出的问题是：既然在这个时代，人工智能都比我们自己更了解自己，这是否会让我们重新审视人类自身的存在？
对于我们的家人朋友而言，人工智能的存在是否会重新阐释“爱”的定义？当你说你爱上某个人，那个人真的是不可替代的吗？是不是可以轻而易举地提供一个数据化的副本？这在技术上能够实现吗？这是否会让我们重新思考“人”的存在是不是独一无二的？这些都是我在小说中提出的问题，但我不会提供一个简单的答案。
实际上，在小说中，我想克拉拉可能有自己的结论：每个人类个体都是独特的，这是因为在爱他们的人心中留有对他们的记忆。但是真的来到人类和人工智能共存的时代，我认为这个问题十分复杂。我不是担心人工智能会替代人类，让他们变成奴隶，尽管这样的想法或许很适合写一个故事。我更担心人类将以什么样的形式继续为社会做贡献，随着人工智能的发展，可能只有20%-30%的人需要工作，因为人工智能可以做得更好。
我们可能需要重新定义这个社会，人类到底是什么，如何养活自己，怎么照顾家庭，如何为自己找寻到自我存在的意义和价值，如何为社会奉献自我？现有的社会体系将如何运转下去？如果机器人可以比人类有更高的工作效率，这是否会带来整个社会的重构？如果我们没有处理好这个问题，就会有战争、冲突和源源不断的矛盾发生，这是我的顾虑和担忧。
我的另一个担忧是，人工智能是否会不可避免地带来偏见和局限？如果我们回望历史，我们可以看到我们的价值观并不是恒定不变的，就在最近的50年内，我们的价值观一直动荡不安。我担心人工智能的偏见会被隐藏在“黑箱子”里，我们无法把它从机器身上拆除或是剥裂。决策始终根据“黑箱子”内部做出，而人类无法真正控制它，某些因为生产年代所带来的偏见可能会变成永久性的。我在思考如何在人工智能明显比我们强大的环境下，仍对人工智能进行某种监视和管理，这比人工智能取代人类更让我关切。

文章插图
石黑一雄人民视觉资料图澎湃新闻：在你之前的小说中，你写过二战时期的英国管家、学校里长大的克隆人孩子、追寻真相的圆桌骑士，但是始终不变的是第一人称的视角、“不可靠的叙述者”和贯穿的“自我欺骗”。但是克拉拉是一个人工智能，这是否意味着她的记忆是真实、可靠、诚实的，她是不是你小说中第一个“可靠的叙述者”？石黑一雄：其实我认为我笔下的每一个角色都是“可靠的”，最起码是诚恳的。在我看来，“不可靠的叙述者”更像是作者在向读者撒谎，比如主角是一个精神病患者，他通过语言上的技巧弥补了逻辑的漏洞，让读者相信他的无辜，实际上他犯下了谋杀罪，编出了小说最后50页的谎言。
但是在我看来，人类的记忆本身就是不可靠的，我只是还原了人类的天性，当你在和家人、朋友交谈时，他们并不会告诉你全部的真相，他们只会重复被自己记忆修改过的部分，实际上，我们每一个人都是不可靠的叙述者。我痴迷于人性的真实，痴迷于人为什么想要隐藏自己内心的真实想法，逃避令人难以面对的事实，以及如何面对让自己回想起来就感到羞耻的过去。我痴迷于人类面对自我的暧昧不清与互相矛盾。另外一个有趣的区别是，有些人逃避的是过去的真相，有些人逃避的是未来的真相，这是人类面对自己的两种“不可靠”。
我承认，对于克拉拉来说，这样的情感倾向会减弱一些，因为她是机器人，她就像婴儿一样，空荡荡地来到人类世界，开始学习人类世界的规则。她有人性化的一面，比如刚开始在商店里，她曾经因为没人领走她而焦虑不安，尽管她没有表达出来，你也能感受到这种焦虑在蔓延。