默多克|IEEE Spectrum调查：AI 的 6 种最坏情况( 二 ) 汽车

而这个实验的观察数据，以及后期对这些孩子的追踪观察说明：
那些延迟满足能力强的孩子，自我控制能力也就越强，可以在没有外界监督的情况下，自主性的控制调节自身行为，在某一个任务完成程度上，要更胜一筹。
【 默多克|IEEE Spectrum调查：AI 的 6 种最坏情况】当前，具备延迟满足能力孩子也会屈服于AI算法给出的诱惑。
进一步，社交媒体用户已经成为实验室中的老鼠，生活在斯金纳盒子里。这些用户沉迷于手机，被迫牺牲更多宝贵的时间和注意力在数字平台上。
海伦·托纳认为：“算法经过优化，可使用户尽可能长时间地‘留’在平台上。”著名作家马尔科姆·默多克解释道：“通过以喜欢，评论和关注的形式提供奖励，算法会缩短我们大脑的工作方式，让我们不自觉地去参与下一个。”
为了最大化广告利润，公司把我们的注意力从工作、家人、朋友，责任甚至爱好上转移。更糟糕的是，如果推送内容质量下降，用户会痛苦和暴躁。海伦·托纳警告：“我们在平台上花费的时间越多，花在追求积极、高效和充实生活上的时间就越少。”

人工智能设计的“暴政”

把更多的日常生活交给人工智能机器是有问题的。即使出于最好的意图，AI系统的设计，包括训练数据和数学模型，也反映了编程人员的“狭隘”经验和兴趣。
当前，许多AI系统没有考虑到不同人的不同经历和特征，AI模型的训练往往基于有偏见的观点和数据，无法充足考虑每个人的独特需求来解决问题，因此此类系统在人类社会中缺乏一致性。甚至在AI大规模应用之前，对日常生活中常见物品的设计往往也是迎合了特定类型的人。例如，研究表明，汽车、包括手机在内的手持工具，甚至办公室环境中的温度设置都是为适合中等身材的男性而设置的，这使得包括女性在内的各种身材和体型的人处于劣势，有时甚至会对他们生活造成危害。
当不属于有偏见规范的个人被忽视、边缘化和排斥时，AI就会变成卡夫卡式的守门人：拒绝提供客户服务、工作、医疗等服务，这些设计决策的目的约束人们，而不是将他们从日常事务中解放出来。此外，这些选择还可以将一些最恶劣的偏见转化为种族主义和性别歧视，造成严重缺陷和有偏见的判决结果。

对人工智能的恐惧剥夺了人类的利益

构建机器智能的过程最终以数学为中心，正如默多克所言：“如果我们不注意的话，线性代数会做非常疯狂而强大的事情。”但是，如果人们变得极度害怕AI，并且督促政府通过剥夺“AI便利”方式对其进行监管，那会怎样呢？
毕竟AI已经帮助人类实现了重大科学进展，例如DeepMind的AlphaFold模型通过氨基酸序列精确预测蛋白质折叠结构方面取得了重大突破，使科学家能够识别98.5%的人类蛋白质的结构，这一里程碑将为生命科学的快速发展提供坚实的基础。考虑到这些AI好处，政府为防范“AI作恶”而采取的下意识监管行动也可能适得其反，并产生它们自己意想不到的负面后果，在这些后果中，我们对这项巨大技术的威力感到如此恐惧，以至于我们拒绝利用它为全世界带来实际好处。
参考链接
Via https://spectrum.ieee.org/ai-worst-case-scenarios

雷峰网