挺进云端AI训练&推理双赛道！独家对话燧原科技COO张亚林：揭秘超高效率背后的“内功”( 四 ) 智东西（公众号：zhidxcom）作者|国仁

五、云端AI推理芯片将呈现爆炸式增长尽量CPU仍占据最多的云端推理市场，但张亚林认为，这是因为推理市场还未完全蓬勃发展起来，并不妨碍未来云端AI推理芯片的成长。
此前因模型基础量不够大，很多推理还在做轻量化，加上端云之间的延迟很大，导致网络传输速度严重掣肘了云端推理的应用。
而从近年数据来看，在中国云端推理市场， AI处理器所占份额从2017年的0%逐步攀升至2019年的1.5% 。
文章插图
尤其在今年，推理市场增速明显。
首先是场景的发展，中国互联网场景非常多样化，在信息安全、语音、NLP、短视频等方面有越来越多的推理需求，应用场景日趋丰富。
其次是网络的发展， 5G的兴起打破了端云之间的延迟限制，让云端多用户并发性变得非常广泛，将网络延迟降到最低，这样一来，云端算力就变成了关键瓶颈。
因此，张亚林预计，随着应用场景泛化以及5G的普及， AI处理器一定会在云端推理市场呈现爆炸式增长。
六、商业成功是检验技术创新的唯一标准什么才算真正的技术创新？
前段时间，中国工程院院士吴汉明在题为《“中国芯”呼唤产业导向的技术支持》的演讲中指出，商业成功是检验技术创新的唯一标准。
张亚林对此非常认同，当我们还在谈论芯片架构创新，英伟达及其他云端头部公司已将着眼点放置于全系统的创新，而芯片只是其中很小的一部分。
“燧原的目的一直是算力普惠，这句话并不是空谈。 ”张亚林说，燧原在软件、硬件、系统、客户定制化方案全面铺开，通过打造高性价比的算力，真正为客户创造价值。
在他看来，开拓型创新是有前提条件的，只有通过逐步了解市场，提高客户黏性、构建生态到一定程度时，创新才是有说服力的。
要达到这个前提的根本，是通过不断产品迭代，在算力性价比、客户支持极致性上做文章，这样才能积累起一定的客户黏性。
“所以抛开市场价值、客户黏性、生态壁垒去谈创新，就是无本之木、无源之水。 ”张亚林说。
结语：不讲故事，只讲客户价值截至现在，燧原科技的云端AI芯片生态已经覆盖“邃思”通用人工智能芯片、云端训练加速卡“云燧T10”、云端推理加速卡“云燧i10”以及“驭算”软件全栈平台。
在张亚林看来，中国公司做数据中心是大趋势，而中国数据中心的体量完全能容纳更多的头部玩家，市场也需要“百花齐放” ，同时燧原将坚持通过高执行力和工程化为客户提供价值。
“我们是一家以技术驱动，为客户创造价值的公司。 ”他提到燧原已经走在商业化落地的路上， “明年公司愿景是实现更大规模的商业落地，建立我们的产品生态和护城河，为客户提供更多更完整的产品解决方案。 ”
在后续的产品迭代中，燧原计划持续满足客户更多的需求。随着生态打磨和业务泛化，燧原给自己定的目标是将客户从其他产品迁移到燧原产品的时间压缩在一周之内。
除了总部位于上海外，燧原科技已在北京和深圳设有研发中心。张亚林说，未来他们还希望能够布局一些内地和沿海省市。
【挺进云端AI训练&推理双赛道！独家对话燧原科技COO张亚林：揭秘超高效率背后的“内功”】“人才在哪儿，研发中心就放在哪儿。 ”张亚林希望通过远程管理和高效组织，未来燧原能够吸纳更多的人才。
文章插图

挺进云端AI训练&amp;推理双赛道！独家对话燧原科技COO张亚林：揭秘超高效率背后的“内功”( 四 )

挺进云端AI训练&推理双赛道！独家对话燧原科技COO张亚林：揭秘超高效率背后的“内功”( 四 )