语言推论时间减至 1.2 毫秒!NVIDIA 全新 AI 软件实现更强搜寻引擎

语言推论时间减至 1.2 毫秒!NVIDIA 全新 AI 软件实现更强搜寻引擎

为使开发人员能打造更高效能的搜寻引擎、广告建议与聊天机器人,NVIDIA 近日宣布推出第八代人工智慧软件 TensorRT 8,其特色在于能让语言查询的推论时间减半,只需要 1.2 毫秒就能在 BERT-Large 上达到破纪录的语言应用速度,而 BERT-Large 是全世界最被广泛使用的 Transformer 模型之一。

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。