NVIDIA 進軍 AI 聊天機器人領域，推出 Chat with RTX 軟體，讓 Windows 電腦使用者可以免費體驗生成式 AI 技術，不用連網就能讓 AI 分析電腦內的文件，甚至還能摘要 YouTube 影片。
Chat with RTX 的功能與 ChatGPT有雷同的地方，比方用戶可對機器人提出問題，AI 就會自動從電腦內的檔案中找出答案，並支援 .txt、.pdf、.doc/.docx 和 .xml 等多種格式檔案。除此之外，用戶可以將 YouTube 影片或播放清單儲存到 Chat with RTX 的資料庫中，它能夠協助你分析、摘要 Youtube 上的影片，例如請 AI 總結某個YOUTUBER介紹的財經資訊等。
科技媒體《The Verge 》的資深編輯 Tom Warren 在試用過後說，Chat with RTX 在影片中尋找參考資料的速度非常快，幾秒鐘就能給出答案，不過有時候也會出錯，找到不相關的影片文字記錄。
Tom Warren 發現，Chat with RTX 能夠在處理 PDF 文件、檢查數據的時候提供很大的幫助。如微軟自己開發的 Copilot 系統對 PDF 文件的支持不太好，但是 Chat with RTX 聊天系統可以輕鬆地從PDF中捉出重要訊息，而且回覆速度也非常快，沒有像使用雲端的 ChatGPT 或 Copilot 聊天機器人有延遲。
然而，Chat with RTX 作為一項早期開發的產品，還存在許多不足之處。如它無法記住上下文。例如，你問「北美常見哪些鳥類？」，再接著問「它們是什麼顏色？」，它就無法識別你指的是否就是鳥類的顏色。
再者，Chat with RTX 也需要更高的硬體要求。NVIDIA 表示，電腦必須配備 GeForce RTX 30 系列或以上的 GPU 顯示卡，並且有 8GB 以上的 VRAM、16GB 的記憶體，以及 Windows 10、Windows 11 和最新版的 NVIDIA GPU 驅動程式。
整體來看，Chat with RTX 還是一個剛開始的產品，也代表了一種趨勢：可離線運做的生成式 AI 模型。「世界經濟論壇」在最近的一份報告中預測，能夠離線運行生成式 AI 模型的設備或載體將「大幅」增長，其中包括個人電腦、智慧型手機、物聯網設備和網絡設備。報告表示，原因在於其離線模型，讓人們更有私密感 ，而且與雲端管拖模型相比，它們的延遲更低，成本效益更高。
原文網址: NVIDIA推AI機器人Chat with RTX 專家：可離線運作、延遲性更低 | 科技 | Newtalk新聞 https://newtalk.tw/news/view/2024-02-16/908901
Follow us: @Newtalk新聞 on FB | @newtalk_news on IG | @NewtalkNews on YT
