Nvidia新軟體可在PC離線運作生成式AI

Nvidia一直熱衷於激勵購買其最新GPU,所以想出一招,發布一款可讓GeForce RTX 30系列和40系列圖形顯示卡的所有者,在Windows PC上運行AI驅動的離線聊天機器人工具。

該工具稱為Chat with RTX,允許用戶透過OpenAI的ChatGPT連接其可查詢的文件、檔案和筆記,來客製化一款生成式AI模型。Nvidia在一篇博客貼文中寫道:「除了搜索筆記或保存的檔案內容,用戶還可輸入查詢。例如,人們可能會問:『在Las Vegas期間,我的伴侶會推薦那家餐廳?』然後Chat with RTX就會掃描用戶指示它去的PC內檔案,並提供具備上下文的答案。」

目前Chat with RTX能使用text、PDF、.doc、.docx和.xml格式,指定該應用程式到一個含有上述格式支援的檔案夾,它就會載入這些檔案到模型的微調數據集中。此外,Chat with RTX還可讀取YouTube播放清單的URL,載入模型所選的內容來查詢其內容。

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.