#影客网络科技#如何利用物理思想帮助机器“升维学习”?( 四 )
这些方法仍然不够通用 , 无法处理凹凸不平的不规则结构上的数据 。 这些结构涵盖了几乎所有的几何形状 , 从土豆到蛋白质 , 再到人体 , 再到时空弯曲 。 对于神经网络 , 这些类型的流形没有“全局”对称性来做出不变性假设 。 每个位置都是不同的 。
标准卷积神经网络不适用于弯面 。 一个在曲面上的边缘检测窗口经过滑动其取向会根据其路径改变 , 而且过滤器在不同的情况下会产生不同的特征 。
挑战在于 , 将扁平过滤器在表面上滑动会改变过滤器的方向 , 取决于其采用的路径 。 想象一下设计用于检测简单图案的过滤器:左侧为深色斑点 , 右侧为浅色斑点 。 在平面网格中上下左右滑动它 , 它将始终保持左深右浅 。 但是 , 即使在球体的表面上 , 这种情况也会改变 。 如果将滤镜围绕球体的赤道移动180度 , 则过滤器的方向将保持不变:左侧为深色斑点 , 右侧为浅色斑点 。 但是 , 如果从球体的北极将其滑动到同一点 , 结果却是颠倒的 。 过滤器将不会在数据中检测到相同的模式或编码出同样的特征图谱 。 不同路径的结果可能是各个方向的 。
幸运的是 , 自爱因斯坦以来 , 物理学家们面临同样的问题 , 并找到了解决方案:等规 。
韦林解释说 , 问题的关键是不去关注跟踪过滤器沿不同路径移动时其方向如何变化 , 而是选择一个过滤器的取向(或规范) , 然后定义一种一致的方法 , 将所有其他方向转换为该方向 。
要注意的是 , 尽管可以在初始方向上使用任意规范 , 但将其他量规转换为该参考系必须保留基本模式——就像将光速从每秒米转换为每小时英里必须保留基础物理量 。 韦林说 , 采用这种等量变方法 , “虽然实际数字发生了变化 , 但是它们以完全可预测的方式发生了变化 。 ”
科恩 , 韦勒和韦林在2019年将等规(最终的“免费午餐”)编码到了他们的卷积神经网络中 。 详细来说就是 , 他们对神经网络通过卷积的方法探测到的模式施加数学约束条件 。 只有规范不变的模式才会在网络的各个层之间传递 。 韦林说:“基本上 , 你可以让它处理任何表面” , 从欧几里德平面到任意弯曲的物体 , 包括诸如克莱因瓶或四维时空的奇异流形 , “并且它会如鱼得水地在该表面上进行深度学习 。 ”
切实可行的理论
等规卷积神经网络的理论非常通用 , 它自动合并了之前的几何深度学习方法的内禀假设 , 例如旋转不变性和球上的移位过滤器 。 即使是迈克尔·布朗斯坦的更早方法(让神经网络识别弯曲成不同姿势的单个三维形状)也纳入了这一理论框架之中:“等规是一个非常广泛的框架 。 我们在2015年所做的工作是其中一种设定 。 ”
理论上 , 卷积神经网络计可以在任何尺寸 , 任意弯曲的表面上工作 , 科恩和他的合作者已经在全球气候数据上对其进行了测试 , 该数据必然具有潜在的三维球形结构 。 他们使用自己的等规框架构造了一个卷积神经网络 , 该卷积神经网络经过训练 , 可以从气候模拟数据中检测出极端天气模式 , 例如热带气旋 。 2017年 , 政府和学术研究人员使用标准卷积网络检测数据中的旋风 , 准确性达到了74%;去年 , 规范卷积神经网络探测到旋风的准确率达到了97.9%(超过了2018年专门为球体设计的几何深度学习方法 , 该系统的准确度为94%) 。
劳伦斯伯克利国家实验室(LawrenceBerkeleyNationalLaboratory)的气候科学家玛雅·穆迪贡达(MayurMudigonda)经常使用深度学习 , 他表示他将继续关注规范卷积神经网络 。 他说:“人类视觉能力的这一方面 , ”——准确地识别图形而不论其方向如何——“这就是我们想要转化到气候领域的东西 。 ”高通公司是一家芯片制造商 , 最近雇用了科恩和韦林 , 并收购了他们建立的一家初创公司 , 将其早期工作纳入等规神经网络中 。 该公司现在正计划应用等规神经网络理论来开发更优化的计算机视觉应用 , 例如可以一次“看到”360度的无人机 。 (环境的鱼眼图就像全球气候数据一样 , 可以自然地映射到球形表面上 。 )
- 「定焦爱科技」3拯救低电量焦虑症,超大电池搭配超快闪充,续航出色的iQOO
- #科技小李#小屏爱好者嗨起来,4.7寸新iPhone确认四月发布,价格是大亮点!,原创
- [笔记本电脑]乙辰科技正式发布首款WiFi6新品:北斗II号分布式无线路由器
- 快科技@苹果提供维修补贴福利但中国区除外
- 天宇科技趣谈@郭台铭今想带富士康“回家”,但国产巨头已升起,离开容易归来难
- 科技八叔■苹果这次真的是拼了,为了不让果粉失望
- 「思维教授」不妨试试这个冷门行业,互联网创业:想在网络上暴利赚钱
- 『零壹财经』在于金融,融慧金科王劲:金融科技的基石不在科技
- 「电商科技馆」3能带来超越游戏手机的体验?这些细节就是关键,为什么iQOO
- 天宇科技趣谈:为武汉捐款2亿元,昔日二十几岁赚千万后收购奔驰,他来自农村