460亿个晶体管！寒武纪首颗7nm AI芯片亮相，全面支持训练和推理芯东西（公众号：aichip001）编

文章图片
芯东西（公众号：aichip001）编辑|心缘
芯东西1月21日消息，今天，寒武纪正式亮出其首颗AI训练芯片思元290及玄思1000智能加速器。
该芯片采用台积电7nm制程工艺，集成460亿个晶体管，支持MLUv02扩展架构，全面支持AI训练、推理或混合型人工智能计算加速任务。
目前寒武纪思元290芯片及加速卡已与部分硬件合作伙伴完成适配，并已实现规模化出货。

文章图片
▲寒武纪智能加速卡MLU290-M5
一、芯片采用MLUv02扩展架构，峰值算力较上一代提升4倍
寒武纪训练产品线采用自适应精度训练方案，面向互联网、金融、交通、能源、电力和制造等领域的复杂AI应用场景。 MLUv02架构为寒武纪MLU200全产品线共享，满足云、边、端三个场景的算力需求。
云端训练对AI算力的要求更为苛刻，因此寒武纪对思元290的MLUv02架构进行了多项扩展，包括业内领先的MLU-Link多芯互联技术、高带宽HBM2内存、高速片上总线NOC以及新一代PCIe4.0接口。
相比寒武纪思元270芯片，思元290芯片实现峰值算力提升4倍、内存带宽提高12倍、芯片间通讯带宽提高19倍，结合7nm制程可提供更优性能功耗比，以及多MLU系统的扩展能力。

文章图片
▲MLU290的MLUv02架构进行了多项扩展
寒武纪首款训练智能加速卡MLU290-M5 ，搭载思元290智能芯片，采用开放加速模块OAM设计，具备64个MLU核、1.23TB/s内存带宽及全新MLU-Link多芯互联技术，最大散热功耗350W ， AI峰值算力达1024TOPS（INT4）。
寒武纪MLU290-M5智能加速卡搭载了思元290智能芯片，采用开放加速模块OAM设计，具备64个MLUCore ， 1.23TB/s内存带宽以及全新MLU-Link多芯互联技术，在350W的最大散热功耗下提供AI算力高达1024TOPS（INT4）。

文章图片
▲寒武纪智能加速卡MLU290-M5产品规格
二、一台玄思1000计算单元可替代一个小型超算中心
寒武纪玄思1000智能加速器可在2U机箱内集成4颗思元290智能芯片，首款智能加速器玄思1000包含4片思元290智能加速卡，最大AI算力超过4100万亿次每秒（4.1PetaOPSINT4）。
寒武纪称，一台玄思1000计算单元就足以替代一个小型传统超级计算中心。
玄思1000采用了高速本地闪存、MellanoxInfiniBand网络，对外提供高速MLU-Link接口，打破智能芯片、服务器、POD与集群的传统数据中心横向扩展架构，实现AI算力在计算中心级纵向扩展。

文章图片
▲玄思1000支持计算中心级纵向扩展
玄思1000内置高带宽低延时的MLU-Link多芯互联技术，实现内部4颗思元290进行高速互联，同时打破服务器、紧耦合微集群（POD）与集群的传统数据中心横向扩展架构，将AIDC构建为节点、POD乃至超大规模混合扩展架构（HybridScale-out），实现AI算力计算中心级纵向扩展，满足高性能、高扩展性、灵活性、高鲁棒性的要求。
三、并行通讯总带宽提升19倍，重新思考未来AIDC基础架构
【460亿个晶体管！寒武纪首颗7nm AI芯片亮相，全面支持训练和推理】算力已成为驱动AI产业化和产业AI化发展的关键要素。近年来， AI算法模型的复杂程度高速增长，对算力和训练速度提出了更高的要求。为了构建更强大的计算平台，多芯片间的互联技术已成为市场刚需。
下一代人工智能计算中心（AIDC）要求更多智能芯片无缝协同、并行运行的同时，还能保持高计算效率，从而提供超级巨大的算力，以应对超大规模训练的需要。
对此，寒武纪重新思考了未来AIDC的基础架构，在玄思1000智能加速器内部和外部采用统一的MLU-Link多芯互联技术进行通讯，使得思元290智能芯片的互联范围可以从单机扩展到POD乃至整个计算中心。

文章图片
▲思元290采用MLU-Link多芯互联技术进行互联，带宽、灵活性全面优于PCIe3.0
寒武纪推出的MLU-Link多芯互联技术，首次搭载于寒武纪思元290芯片，每颗思元290的多芯互联总带宽高达600GB/s 。该技术支持多颗思元芯片无缝互联，支持跨系统互联，将纵向扩展能力整合到整个AIDC ，可端到端加速大型AI模型训练。