Meta 开源 AITemplate 系统加速人工智慧推论技术发展
▼
人工智慧技术之中，除了训练之外推论（Inference）也是另一个相当重要的范畴，不过发展速度仍然有待提升。为了加速发展，Meta 最近开源了自家 AITemplate 系统，让更多厂商可以加入开发。
Meta 的 AITemplate 系统（AIT）是类似 Nvidia TensorRT 的人工智慧推论引擎，不过就同时支援 Nvidia TensorCore 和 AMD MatrixCore，可以做为通用的软件层，提供更灵活、开放和节电的 AI 推论应用。目前人工智慧推论引擎大部分都只能在特定硬件上使用，对于同时使用不同品牌硬件的企业而言，就需要针对不同的硬件来处理软件部分，AIT 的出现就是希望可以解决这个问题，现在更基于 Apache 2.0 许可开放源码，有助提升整个行业的创新步伐。
Meta 工程总监 Ajit Mathews 表示，他们首先完成模型架构，然后会努力融合和改善这个架构特有的不同层级和操作，未来除了 Nvidia 和 AMD 之外，也可能会加入 Intel GPU 的支援。他表示：“我们看到目前和未来的许多推论负载都有机会受惠于 AIT。它作为性能最强的统一推论引擎，亦有可能被广泛采用。”
- Meta seeks to accelerate AI inference with open-source AITemplate
（本文由 Unwire Pro 授权转载；首图来源：shutterstock）
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
