完美|皱眉细节完美复刻，阿尔伯塔大学团队标星 1.7K 的项目生成超逼真的肖像画完美|阿尔伯塔大学|团队|项目

机器之心报道
机器之心编辑部
深度卷积神经网络已经被广泛用于显著目标检测，并获得了 SOTA 的性能。在 CVPR 2019 的一篇论文中，来自加拿大阿尔伯塔大学的研究者曾提出了边界感知显著目标检测网络 BASNet，并衍生出了一系列流行的工具。今年，该团队又提出了一种用于肖像画生成的深度网络架构 U^2-Net，不仅所需的计算开销较少，而且生成肖像画具有丰富的细节。该论文被 ICPR 2020 会议接收。

文章插图
从人脸图片生成艺术肖像画的 AI 应用不在少数，但效果惊艳的不多。上面这张图片中的输入 - 输出结果，来源于一个 GitHub 热门项目 U^2-Net ( U square net ) ，开源至今已经获得了 1.7K 的 star 量。

文章插图
这项研究来自阿尔伯塔大学的一个团队，论文此前已被国际模式识别大会 ICPR 2020 会议接收。论文链接：https://arxiv.org/pdf/2005.09007.pdf项目地址：https://github.com/NathanUA/U-2-Net
最近，研究者又将其应用于人脸肖像画的生成中，并基于 APDrawingGAN 数据集为此类任务训练了新的模型。不管是儿童肖像还是成年男性、成年女性，都能获得相当细致的生成结果：

文章插图

文章插图
近年来，显著性目标检测广泛应用于视觉跟踪和图像分割等领域。随着深度卷积神经网络（CNN）的发展，尤其是全卷积网络（FCN）在图像分割领域的兴起，显著性目标检测技术得到了明显的改善。大多数 SOD 网络的设计都有一个共同的模式，也就是说，它们专注于充分利用现有的基础网络提取的深度特征，例如 Alexnet、VGG、ResNet、ResNeXt、DenseNet 等。但这些主干网络最初都是为图像分类任务设计的。它们提取代表语义含义的特征，而不是代表局部性细节或全局对照信息，这对于显著性目标检测至关重要。并且这些网络通常需要在 ImageNet 数据上进行预训练，效率比较低。
为了解决这个问题，阿尔伯塔大学的研究者提出了 U^2-Net。研究团队在论文中介绍，U^2-Net 是一个简单而强大的深度网络架构，其架构是两层嵌套的 U 形结构。该研究提出的 ReSidual U-block（RSU）中混合了不同大小的接收域，因此它能够从不同尺度中捕获更多的语境信息。此外，RSU 中使用了池化操作，因此在不显著增加计算成本的情况下，也能够增加整个架构的深度。
方法
在方法部分，研究者不仅详细阐释了其提出的残差 U-block 以及利用该 U-block 构建的嵌套 U 形架构，而且还描述了该网络的监督策略和训练损失。
残差 U-block
受到 U-Net 网络的启发，研究者提出了新型残差 U-block（ReSidual U-block, RSU），以捕获阶段内的多尺度特征。RSU-L ( C_in, M, C_out ) 的结构如下图 2 ( e ) 所示，其中 L 表示编码器中的层数，C_in、C_out 分别表示输入和输出通道，M 表示 RSU 内层通道数。

文章插图
本研究提出的 RSU 与现有其他卷积块的结构对比具体而言，RSU 主要有三个组成部件，分别是一个输入卷积层、一个高度为 L 的类 U-Net 对称编码器 - 解码器结构以及一个通过求和来融合局部和多尺度特征的残差连接。
为了更好地理解设计理念，研究者在下图 3 中对 RSU 与原始残差块进行了比较。结果显示，RSU 与原始残差块的最大区别在于 RSU 通过一个类 U-Net 的结构替换普通单流卷积，并且通过一个由权重层转换的局部特征替换原始特征。

文章插图
更值得注意的是，得益于 U 形结构，RSU 的计算开销相对较少，因为大多数运算在下采样特征图中应用。下图 4 展示了 RSU 与其他特征提取模块的计算成本曲线图：

文章插图
U^2-Net 架构研究者提出了一种用于显著目标检测的新型堆叠 U 形结构 U^n-Net。从理论上讲，n 可以设置成任意正整数，以构建单级或多级嵌套 U 形结构。研究者将 n 设置为 2 以构建二级嵌套 U 型结构 U^2-Net，具体如下图所示：

文章插图
具体而言，U^2-Net 主要由三部分组成：（1）6 阶段编码器；（2）5 阶段解码器；（3）与解码器阶段和最后编码器阶段相连接的显著图融合模块。总的来说，U^2-Net 的设计构建了具有丰富多尺度特征以及较低计算和内存成本的深度架构。此外，由于 U^2-Net 架构仅在 RSU 块上构建，并且没有使用任何经过图像分类处理的预训练主干网络，所以在性能损失不大的情况下 U^2-Net 可以灵活且方便地适应不同的工作环境。