NVIDIA造出16核心全球最大GPU,靠的就是它!( 十 )

NVIDIA造出16核心全球最大GPU,靠的就是它!

▲NVSwitch芯片正视图。

由于NVSwitch拥有18个端口,因此这使得英伟达可以设计一个完全无阻塞、完全互联、拥有16颗GPU的系统。从实际产品来看,英伟达的连接方式依旧是先将GPU分为两组,每组8颗GV100 GPU,每颗GV100芯片拥有6个NVLink 2.0接口,每个接口都和一个单独的NVSwitch芯片连接,一颗GV100可以连接6个NVSwitch芯片。以此类推,让所有的8颗GPU都连接在这6个NVSwitch芯片上,实现了6个NVSwitch芯片和8颗GPU的连接。

在上述连接中,每个NVSwitch芯片实际上只使用了8个接口,还剩余10个接口未连接。实际上在DGX-2中,16颗GPU分为2组后分别连接至2个NVSwitch底板上(每个底板有6个NVSwitch芯片,如上文所述),2个NVSwitch底板之间的连接是通过NVLink总线完成的,这两个底板之间的NVLink 2.0总线正是来自于NVSwitch芯片剩余的10个接口中的8个。至于最后的2个接口,目前是空置状态,据猜测可能会被用于GPU和IBM Power 9处理器之间的连接。在这种连接方案中,IBM的Power 9处理器可以直接连接每个基板的每个NVSwitch芯片,这意味着所有的GPU都可以直接和CPU连接。