辉达 Chat with RTX 聊天机器人,不用连线即可使用 AI

辉达 Chat with RTX 聊天机器人,不用连线即可使用 AI

辉达(NVIDIA)日前推出个人化 AI 聊天机器人 Chat with RTX,使用者不用连网就能将文件、笔记等资料连结大语言模型(LLM)。NVIDIA 表示,Chat with RTX 所有操作均在 Windows RTX PC 或工作站终端执行,因此非常安全。

使用者可用 Chat With RTX 使用检索增强生成(RAG)、TensorRT-LLM 和 RTX 加速。要用 Chat with RTX 的话,需要配备 GeForce RTX 30、40 系列以上 GPU,或 RTX Ampere、Ada Generation GPU。除此之外,显示卡记忆体最少需 8GB 。

Chat with RTX 支援各种文件格式,Word 档、PDF、Doc / Docx 和 Xml。只需将应用程式指向包含档案的资料夹,数秒内就可使用。使用者也可用 Chat with RTX“收看”YouTube 影片,整合影片内容。

NVIDIA 强调,由于 Chat with RTX 本机运作,无需连接网络,因此查询速度非常快,使用者资料也存在装置,所以非常安全,使用者可安心处理敏感资料。

(本文由 Unwire HK 授权转载;首图来源:NVIDIA)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。