辉达 GPU 降速影响？专家：内地 AI 训练两三年后撞墙

▼

受到华盛顿当局祭出出口管制影响，辉达（Nvidia Corp.）决定将 AI 晶片降级，供应内地所需。分析人士直指，辉达 AI 晶片虽降级，效能依旧优于其他替代品，因此内地市场依旧需求若渴，但美国出口管制未来恐会产生更为重大的影响。

英国金融时报21日报道，辉达科学长Bill Dally指出，最先进AI系统的训练要求大概每6~12个月就会加倍，也就是说，内地与全球其他地区贩售的晶片差距会迅速拉大。

华盛顿当局2022年发布的出口管制对晶片运算、传输资料的速率设限，此乃训练大型AI模型的关键。训练AI模型需要大量数据，得将许多晶片连结在一起。辉达决定调降当时最先进GPU“A100”的资料传输速度因应、专为内地推出“A800”，今年也推“H100”内地降级版“H800”，传输资料速率仅400 GB/s、低于美国设定的600 GB/s上限。H100资料传输速率高达900 GB/s。

传输速率下降，意味着内地晶片用户须花费更长的时间才能训练好AI系统，这会消耗更多电力、增加成本。然而，即便面临这些限制，H800在内地的销售依旧火热。许多内地科技业者依旧处于大型语言模型（LLM）的预训练（pre-training）阶段，这要消耗许多GPU算力、对资料传输的要求也高。内地AI工程师透露，辉达800系列GPU的传输速率虽降级，却依旧领先其他替代品。

业界专家相信，内地企业可能很快就会面临800系列晶片的互联速率限制，让他们无法应付训练AI益发庞大的数据量。86Research上海分析师Charlie Chai表示，这就好像在壅塞的公路旁兴建大量工厂，即便企业能设法适应降级版晶片，也将在接下来两三年遇到问题。

（本文由 MoneyDJ新闻 授权转载；首图来源：shutterstock）

延伸阅读：

• 辉达 AI GPU 在内地炒至 50 万人民币，想买得靠关系

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。