NVIDIA秀「Chat with RTX」聊天機器人 想用它有這些限制

针对接下来将越来越多的AI PC应用，NVIDIA释出名为「Chat with RTX」的免费示范用聊天机器人，让此聊天机器人能依据装置端存放资料进行汇整、摘要，并且能以自然互动方式进行回答。

NVIDIA说明，「Chat with RTX」背后能直接连接Mistral、Llama 2等开源大型自然语言模型，并且支援诸如TXT、PDF、DOC、DOCX、XML在内文件格式，同时能在几秒钟时间内将文件内容搜集进资料库内，甚至也能透过整理YouTube影片与播放清单内容，借此整体影片陈述内容。

而「Chat with RTX」标榜能在装置端运作，并且能更安全地处理敏感数据，无须将任何资料上传至云端，或是与第三方共享，同时也能处理前后文整理。

不过，如果要使用「Chat with RTX」的话，装置必须搭载GeForce RTX 30系列显示卡，同时必须搭配8GB以上显示记忆体，更仅能在Windows作业系统环境使用。

同时本身仅为示范用途，因此实际执行表现可能还会有错误情况，但NVIDIA主要是以此作为技术示范，借此诠释如何在装置端实现更即时的聊天机器人设计互动。

《原文刊登于合作媒体mashdigi，联合新闻网获授权转载。》