讲座的意思（做讲座） _的

澎湃新闻采访人员王芊霓实习生麦芷棋

AI对于今天的你我而言都不再陌生了，Siri、小爱同学等甚至成为我们生活中不可或缺的好帮手。同时，它们也更多地被赋予了“人”的特征，甚至被给予了人的身体和面貌。情感，作为人与其他物种相区别的重要特征之一，是否有在人工智能中存在的必要和可能？让人工智能拥有情感，能让它们更好地服务于人类吗？

文章插图
７月１７日，在中国人民大学哲学与认知科学跨学科平台主办，“神经现实”平台协办的“AI与情感”专题讲坛中，美国天普大学教授王培以“通用人工智能中的情感”为题，向我们介绍了通用人工智能（AGI）拥有情感何以正当且可能的问题。

“人工智能情感与人类情感不可等同”

王培指出，虽然传统的AI研发者认为赋予AI情感既无可能也无必要，但现今一些研究者出于不同的原因在挑战这个观念。首先，随着对用户的情感状态和需求的关注，一些AI需要通过“情感计算”来满足这种人机互动的需要。其次，“类脑计算” 的研发者希望AI能尽可能像脑，而情感又是脑活动的重要组成部分。

AGI中的情感研究和前面两种有不同。这种研究强调智能的整体性和各个认知功能的统一。情感作为认知功能之一，对系统的完整性有着举足轻重的意义。在这里，AI之所以需要具有“情感”，是因为要满足系统自身的需求，而非只是为了营造“逼真”的噱头。

AGI中的“情感”概念和人类情感的概念是有所区分的，“我们所要做的并不是要再现人类的情感，而是从人类的情感中提炼出一种功能性的‘情感’，让这种情感成为系统的一个功能，从而为一些复杂的问题提供答案或是解决思路。”王培进一步作出阐明，“这种情感的概念和智能密切相关。”

“情感能让系统更快地作出反应”

通过对通用人工智能系统NARS进行介绍，王培指出“情感的起点”，或称情感发生在系统对系统自身状态做出评估、对其他诸多情景进行“主观”分类，并进行“情感性反应”的过程中。

文章插图
《黑镜》第三季中也讨论了人工智能对人类的影响

王培认为，系统的“智能”表现为其在知识和资源不足时的适应能力。“知识和资源不足”指的是有限的加工及信息处理能力不能完全满足对新问题实时作出反应的需要；“适应能力”则指人工智能系统应该最大限度地做到“以过去把握未来，以有限应对无限” 。这种“把握”并非要求系统对未来作出准确无误的预判，而是基于过往经验作出对未来的合理预测。

情感恰恰为在反应时间不足时的系统提供了一种快速反应的手段。情感让系统得以根据一种“主观”的标准，在有效实现目标的前提下不仔细考虑事件的来龙去脉就作出粗略的评估和判断，进而快速地反应或是为反应做好准备。

“这种需求和生物性无关，我们也就不用强调人脑是碳基机器是硅基，系统拥有情感如何不可能。我们所说的这种情感更多源于系统的工作环境和设计要求，为了满足这个要求所需具备的情感与人的情感相类似——实际上我们也可以不用‘情感’这个词。”王培说。

文章插图

文章插图
电影《人工智能》，一个被赋予情感的小AI被领养后，渴望得到“母亲”真正的爱。

当AGI拥有情感之后会怎样

王培说，AGI根据“情感”所作的目标选择是需要与其他目标进行竞争的，而非凌驾于其上，变成一种“情感冲动” 。情感会扩散，并和全局评价的相关性来形成对概念的好恶，也即将对整体状态的评估引申到具体的人或物上。

“举个例子，比如我们有一个服务型的人工智能，它需要服务几个顾客，在过往的经验中，它总和顾客A交流顺畅，和顾客B交流则会产生很多障碍和麻烦。那么当时间不足又需要实时反应，该系统就会在有效地实现自己为顾客服务的目标前提下，对顾客A产生“倾向性”优先选择为前者提供服务。从而营造出了一种对顾客有远近亲疏的区别的感觉，亦即我们所说的‘情感’ 。”王培进一步解释道，“再举一个极端的例子，如果一只鸟总伴随着好事出现，那么系统就会喜欢这只鸟，在这只鸟出现时会产生正面的‘情感’ 。”

同时，情感对系统有着控制作用。在情感强烈时，决策规则的行动阈值较低，系统容易做出行动。情感色彩强烈的概念（如上文所述的顾客A和鸟）会获得更多的注意，这些被系统喜好的对象会获得更好的对待。而在正面情感的指引下，系统也更容易接纳新任务。这些控制作用与人类的情感十分相似。

除了诉诸外部的作用，情感也可以进入系统的内部经验，直达主观、私密的概念层。正如上述提到的对具体概念的情感，这种内部经验会对外部反应提供指导。同时，情感在系统“言行”中的表现，也可以被其他系统感知，让其他系统得以对该系统作出状态评估，更好地促进交流、提升交流的效率。

谈到AGI的情感与人类情感的比较，王培总结说，这两种情感功能相似，形成的过程不同，宏观相似而微观不同；这两种情感都是“情感“的特殊状况，没有绝对的孰优孰劣；也正因为这些不同，虽然AGI会和人类有情感交流，却不可能完全感同身受。

王培认为，情感是系统自我认识、自我控制、交流合作等功能的自我要求，是理性的积淀。它或许不是所有智能系统所必须的，却是高级智能所需要的。对人类而言，有情感的AGI可能是更安全的，“让系统爱人类，比给它们设置种种规章制度要更好。”

责任编辑：梁佳

【讲座的意思（做讲座）】校对：栾梦