如果人工智能真的成为现实,那AI会不会出现情绪崩溃的情况,为啥

这其实涉及到心理学,给题主加了标签,我也从这个角度回答。1、清楚情绪的产生及作用情绪的产生有几种不同理论,还存在一定的争议,但大致是「外界刺激——大脑评估——身体反应——情绪体验」这样一个过程。情绪对于生物来说,其作用主要是两方面,一方面是调动全身应对遇到的情况(例如愤怒时肾上腺素分泌,身体进入fight-or-flight状态),另一方面是社交中传达信息(笑—开心、哭—悲伤)。2、AI是否会有情绪首先,从情绪的产生理论来看,由于涉及到对「身体反应」的感知,因此要为AI模拟出「真实情绪」是很困难的,除非(从算法上)为AI模拟出整个人体的内分泌系统和神经系统。其次,从情绪的作用来看,AI并不需要情绪。当然如果是为社交情景而生的AI,有情绪反应会使得AI更加亲切,但是也用不到「真实情绪」。可能的做法是伪造情绪反应,即并非像人一样经过「1」中所述的过程产生情绪、而是通过代码做几个trigger引发情绪反应。所以,结论就是,AI即使拥有情绪,也只会是「模拟的情绪」而不是「真实的情绪」。模拟的情绪是不会崩溃的。
■网友的回复
谢邀。如果AI有情绪的话,当然也会崩溃。就连非智能性的程序遇到超出设计人员预期的情况,都有可能发生崩溃,何况是智能性的程序了。不过我们会把能崩溃的AI叫作一种设计缺陷,看作是bug,而不是情绪崩溃。其实人类的情绪不稳定,难道不也是一种bug吗?
■网友的回复
情绪是什么?一朵花有情绪吗?一颗树有情绪吗?一只昆虫有情绪吗?一条蛇有情绪吗?家里的猫有情绪吗?人在面对困境时,直接产生行为就可以了,为什么需要情绪来促进行为的产生,情绪到底在人类世界中扮演着什么样的角色?比如面对恐惧时,立刻逃跑,为什么需要情绪的参与呢?以指令系统的视角来看待这个问题,情绪可以被划分为指令系统的辅助系统,它可以极大的促进指令系统执行当下重要的指令。而人类为什么需要这种辅助系统呢?答案是为了生存,为了生存人类必须在非常多的指令下做出优先选择权,比如你过马路眼看一辆车子要撞向你了,这个时候你肯定不会继续悠闲的舔一下手里的甜筒。这就是辅助系统存在的必要,辅助系统,立刻感知到恐惧,让大脑和身体立刻反应做出逃生的动作,其余的一切指令甚至都被抛弃了。而更为完美的是,这种指令辅助系统,根据着所遇到的情景进行着归纳和总结,比如极端恐惧状况,撞车,这种会留下巨大的阴影,而归根结底,是对自身可能造成毁灭情景的极度加权,是一种优秀的生存策略。会导致在未来极力避免这种情况的发生。另一方面,人类是群居动物,而在群体进化过程中,与他人的信息交流需要一定的基准,比如把微笑定义为友善的,这种定义是进化条件下,产生的归纳行为,成为了基准,而这种基准的建立是长期的磨合过程,甚至会收到基因层面和后天文化层面的影响。而其一旦建立,改正的过程也会比较艰巨,几乎不受个体影响,除非你是领导者。而情绪正是人类交流过程中一种基准建立辅助系统,这种基准的建立远比你所想象的更深远,比如一报还一报策略,群体进化过程中的合作策略。(详细请看合作的进化。)而一旦对方破坏这种机制,你会非常的愤怒,比如猴子抢了你的苹果,你很愤怒。愤怒是一种进攻的信号,而且是一种合理的进攻信号。因为你破坏了合作机制,但是直接攻击,双方都会收到巨大的损失,所以愤怒,是攻击行为前的沟通,你看到愤怒的人也会感到害怕,开始反思,最终促成合作的建立。每一类情绪都对应特定的情景,是一种信息交流的辅助手段,这种信息交流包括与自然环境的信息交流和人类自身的信息交流,其存在对人类而言有着极其重要的作用。有人说情绪是不理性的,其实不对,情绪在更大的人类基准的角度而言,是非常具有理性,是一种远胜于个体理性的存在。也就是说情绪并不一定最求自身利益的最大化,而是最求一个社会基准的建立以及该基准下合理的自身利益。那机器人需不需要情绪辅助系统呢,大部分情况下,还是需要的,这种辅助系统对于个体执行命令是有帮助的,而且可以帮助机器人在复杂的环境下做出合理的优先策略。当然这种优先策略的建立,有可能是人类对其优化和完成的,甚至没有让机器人参与归纳和总结,因为人类进化的指令系统是基于个体,而机器人却可以联网,在极其强大的数据库面前,有可能放弃这种优先策略以及优先策略的归纳和总结权利。(人类出于安全考虑,冻结了机器人这一能力。)但是巨大的网络,不一定能够调动庞大数量的机器人都执行最优策略,而导致这种策略选择权的下放,并对其完善了情绪系统,那么机器人就将拥有情绪系统。另一方面,考虑到机器人都是为人类服务,所以机器人拥有情绪管理能力,以和人类更有效的进行沟通,而这种情绪管理能力只是基于表面的,起内部指令系统不可改。(基准不可更改,基本是人类的基准。)那样机器人就拥有了和人类一样的情绪系统。当然了,未来机器人的安全问题会有长久的讨论,服务器级别的机器人系统,看似安全,但一旦被攻克,那将是人类的灾难,后果难以想象。而权利下放,独立的机器人由于监管有限,也存在一定的危险性,世界到底是什么样,还很难确定。