人工智能|你亲手晒在网上的照片，正被人拿来喂养 AI |青年|中年|

1989 年，与圣诞节一同到来的，还有崭新的互联网里程碑：万维网 (WWW) 。
万维网的发明者伯纳斯·李认为：互联网最具价值的地方，在于赋予人们平等获取信息的权利。基于这个理念， 1993 年 4 月 30 日，万维网对外免费开放，让地球人都成了渔民。
受互联网分享文化的熏陶，随手拍照、分享集赞已是常态，但在人工智能时代，你亲手晒在社交网站上的照片，很可能会把自己推向被监控的境地。
相当数量的人，在不知不觉中，已经成为受害者。
1、人脸识别的“肮脏小秘密” 2020 年初，位于美国的面部识别技术公司 Clearview AI ，惊爆丑闻。
Clearview AI 通过软件，悄无声息的从 Facebook 和谷歌等多个网站中，提取人脸图像，并创建了一个数据库，有可靠数据显示，数据库中的人脸图像超过 30 亿张。 Clearview AI 一边充实数据库，一边将数据库授权给执法机构使用。

本文插图
目前，已有世界各地的数百个执法机构取得授权，甚至还包括一些私营公司。在如此庞大数据集的交易下，照片的拥有者却毫不知情。
这样的事情，远不止这一起。
2019 年，纽约时报发表了一篇报道，题目是《你孩子的照片，是如何为监控技术提供动力的》。

本文插图
纽约时报的报道
克洛伊和贾斯珀的母亲，是众多热衷于用照片记录孩子的母亲之一。 2005 年，她在照片分享网站 Flickr 上注册后，上传了很多孩子的照片。

本文插图
没想到， 14 年后，克洛伊和贾斯珀的照片，和其他家庭的数十万张照片一起，被存储在一个叫做“MegaFace”的数据库中，数据库里有近 70 万个人的肖像，已经被数十家公司下载，不仅用于训练新一代的面部识别算法，也用于跟踪抗议者、监视恐怖分子，以及监视广大公众。

本文插图
MegaFace 数据库中的图像
而这些照片的数十万个主人，在丑闻曝出之前，毫不知情。
我们都知道，人脸识别离不开机器学习，而机器学习的重中之重，就是数据样本。
【人工智能|你亲手晒在网上的照片，正被人拿来喂养 AI】早期，研究人员想要得到人脸照片，唯一的方式是购买：贴出广告，吸引有意向的人来到实验室，在签署同意书后，让这些人在不同的光线下，用不同的姿势拍照，以此作为训练 AI 的样本。
到了 21 世纪，网络开始兴起，更为快捷方便的照片获取方式出现了，只需在搜索引擎中输入姓名（此时大多是名人），就能下载关于他们的所有照片。
时间继续往后推移，名人的照片已经不能够满足需求，于是，研究人员的目光转移到了社交媒体上的普通人。
由此，人脸识别领域开始出现“肮脏小秘密”：秘密盗用在线照片，用来训练 AI ，乃至监控。
2、毒药，亦是解药欧洲有一个著名的谚语，叫做“阿喀琉斯之踵” 。
相传，阿喀琉斯是凡人英雄珀琉斯和海洋女神忒提斯的儿子，打小就受到父母宠爱。后来有预言传出，阿喀琉斯长大之后，会成为伟大的英雄，将参加特洛伊战争，但特洛伊城会陷落，阿喀琉斯也会战死沙场。
母亲忒提斯一听，开始想办法。
为了让阿喀琉斯有金刚不坏之身，她紧紧捏住阿喀琉斯的脚后跟，把他倒提着浸入冥河，这样一来，露在水外的脚后跟，成了阿喀琉斯唯一脆弱的地方。分页标题
后来，一切都跟预言的一样，拥有不死之身的阿喀琉斯，被毒箭刺中脚后跟，轰然倒地。

本文插图
这个谚语说明：再强大的人，也一定会有致命弱点。而深度机器学习的“阿喀琉斯之踵” ，就是对抗性样本。
只要在机器学习的图像中，稍微加入一点点噪声 (干扰像素) ，机器眼里的熊猫，一瞬间就会变身成为长臂猿。这意味着，深度学习模型其实非常脆弱。

本文插图
熊猫和长臂猿中间，只隔着噪声
这种脆弱性，已经是人工智能时代的安全隐患。
对于无人驾驶来说，攻击者只要在道路上放置几张驾驶员都难以察觉的特殊纸片，无人驾驶车辆途径这里时，就会突然转向隔壁的逆向车道，驾驶员很难及时做出反应。这种攻击就叫做数据投毒。
但毒药在某种场合下，也能变身为解药，比如前面提到的在线照片秘密盗用。
前不久，芝加哥大学研究人员设计出一个工具 Fawkes ，利用数据投毒的原理，给照片披上一件“隐身斗篷” ，能够避免普通人晒在网上的照片被用来训练 AI 。
在机器的眼里，照片只是一堆像素数字，只要极细微的更改照片中的一些像素，机器就无法识别出图像中的人，而在人的眼中，经过修改的照片与原图，几乎没有任何差别。

本文插图
原图与修改图的对比：左上为 Fawkes 第一作者单思雄
研究人员已经将 Fawkes 免费对外开放，当你在各个网站晒出照片之前，只需用 Fawkes 进行修改，就能避免照片被秘密盗用去训练 AI 。经过测试， Fawkes 能够让旷世、微软、亚马逊等公司的面部识别算法 100% 失灵。
AI 的毒药，也是“丢脸”的解药。
这也许就是现代版的“以子之矛，攻子之盾” 。

本文插图
图片来源于：Cyberpunk 2077
嗨，这里是浅黑科技，在未来面前，我们都是孩子。
想和我做朋友的话，搜索微信 Muzi_Yanni 就可以找到我，想看更多科技故事，欢迎戳→微信公众号：浅黑科技（qianheikeji）。
声明：转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与本网联系，我们将及时更正、删除，谢谢。邮箱地址：newmedia@xxcb.cn