据中心|IoT 、5G与边缘计算将会擦出怎样的火花？( 二 ) 边缘|5g|数据中心|计算|火花|

文章插图

图 1：边缘计算通过使用微数据中心来分析和处理数据，从而使云计算过程更靠近终端设备

用实例了解边缘计算

为了解使用边缘计算带来的延迟改善优势，罗格斯大学和 Inria 使用 Microsoft HoloLens分析了边缘计算（或称“边缘云”）的可扩展性和性能。

在案例中，HoloLens 读取条形码扫描仪，然后使用建筑物中的场景分割功能将用户导航到指定房间，并在 Hololens 上显示箭头。该过程同时使用了映射坐标的小数据包和连续视频的较大数据包，以验证边缘计算与传统云计算相比延迟的改善。HoloLens 先读取二维码，然后将映射坐标数据发送到边缘服务器，该服务器使用了 4 个字节加上标头，花费了 1.2 毫秒 (ms)，服务器找到坐标，并通知用户该位置，总共耗时 16.22 ms。如果将同样的数据包发送到云，则大约需要80ms（图 2）。

文章插图

图 2：比较边缘设备到云服务器与边缘设备到边缘云服务器的延迟

同样，他们还测试了在使用 OpenCV 进行场景分割以将 Hololens 的用户导航到适当位置时的延迟。HoloLens 以 30 fps 的速度流传输视频，并在边缘计算服务器中以 3.33 GHz 的频率在配备 15GB RAM 的 Intel i7 CPU 上处理图像。将数据流传输到边缘计算服务器需要 4.9 ms，处理 OpenCV 图像额外花费了 37 ms，总计 47.7 ms。云服务器上的相同过程花费了将近 115 ms，清楚显示了边缘计算降低延迟的明显优势。

该案例研究显示了边缘计算在降低延迟方面的显著优势，但是未来还会有更多新技术可以更好地实现低延迟。

5G 概述了当今延迟少于 1ms 的案例（图 3），而 6G 已经在讨论将其降低到 10 微秒 (μs) 的问题。5G 和 Wi-Fi 6 会增加连接带宽，其中5G 预计将带宽提高到 10Gbps，而 Wi-Fi 6 已经支持 2Gbps 带宽。AI 加速器声称场景分割的时间少于 20μs，这与上述示例技术论文中引用的 Intel i7 CPU 在大约 20ms 内处理每个帧的速度相比，又有了显著进步。

文章插图

图 3：与图 2 中 10s 和 100s 的 Msps 相比，从 Hololens 到路由器以及从路由器到边缘服务器的带宽改善高达 10Gbps，另有 AI 处理的改进（从 20ms 改善到 20us），往返延迟 < 1ms。

显然，如果边缘计算表现的比云计算更具优势，那么将计算全都转移到边缘设备中不是最好的解决方案吗？很不幸，目前并不是所有的应用程序都是如此（图 4）。在 HoloLens 案例研究中，如果数据使用的 SQL 数据库太大，则无法存储在耳机中。今天的边缘设备，特别是发生物理磨损的设备，没有足够的计算能力来处理大型数据集。除了计算能力之外，云或边缘服务器上的软件比边缘设备上的软件开发成本更低，因为云/边缘软件不需要压缩到更小的内存资源和计算资源中。

文章插图

图 4：比较云计算和边缘计算与端点设备。

由于某些应用程序可以根据基础架构不同位置的计算能力、存储能力、存储器可用性和延迟能力来合理地运行，因此无论是在云中、在边缘服务器还是在边缘设备中，未来的趋势是混合计算能力（图 5），边缘计算是建立全球混合计算基础架构的第一步。

文章插图

图 5：安装在 Hololens、边缘服务器和云中的 AI，使混合计算架构能够根据应用需求优化计算、存储器和存储资源。

边缘计算与AI

许多使用边缘计算的新服务都有低延迟需求，因此许多新系统都采用了最新的行业接口标准，包括PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于PCIe的NVMe以及其他基于新一代标准的技术。与上一代产品相比，这些技术都通过改进带宽来降低延迟。

这些边缘计算系统还增加了AI加速功能。例如，某些服务器芯片通过x86扩展AVX-512向量神经网络指令 (AVX512 VNNI)等新指令提供AI加速。

除此之外，大多数新系统中还添加了自定义AI加速器。这些芯片所需的连接性通常采用带宽最高的主机来实现加速器连接。例如，在具有多个AI加速器的某种交换配置中，由于带宽要求影响了延迟，因此很多系统中采用了PCIe 5.0接口。

除了本地网关和聚合服务器系统之外，单个AI加速器通常无法提供足够的性能，所以需要借助带宽非常高的芯片到芯片SerDes PHY来扩展这些加速器。最新发布的PHY支持56G和112G连接。