▲依赖PCIe总线的多路GPU系统。

虽然通过PCIe总线可以连接多颗GPU，但是仅仅32GB/s的双向带宽和PCIe Switch的存在，还是使得更多GPU之间的连接存在瓶颈。尤其是在AI计算这种需要更多数据传递和平衡的系统中，PCIe不可能支持诸如8个GPU这样的系统，因此系统的性能难以继续提升。

在这种情况下，英伟达决定自行开发一种总线用于多GPU互联。在2016年发布的Pascal架构GPU中，英伟达首次推出了这种名为NVLink的总线系统。单个NVLink是一个双向接口，包含了32个链路，每个方向形成8个差分对。根据英伟达的数据，Pascal家族的GP100核心中集成了4个NVLink总线，每个可以提供40GB/s的带宽，因此GP100芯片拥有的带宽为160GB/s。

• 虐腹不只为练出腹肌，9个动作挑5个，练不出腹肌也能增强核心！
• 吉姆·奥尼尔：中国是“金砖四国”的核心
• 瑜伽蜻蜓式锻炼手臂和核心的力量，帮助打开髋部
• 立心铸魂兴伟业——以习近平同志为核心的党中央情系教育事业
• 24岁健身女孩，打造出刀刻般的腹肌，腹肌中缝让人印象深刻
• 网红是如何制造出来的？暗访经纪公司揭开灰色面纱
• 泉山区火花街道：服务核心区 争当排头兵
• 实车曝光！众泰真的造出了“路虎揽胜” 连底盘车架都“照抄”！
• 陈一丹：“理性公益”将成公益行业下一波核心与关键
• 【财富号热文】A股三大核心问题，解决了就有望摆脱长期熊市