瀏覽標籤

TensorRT-LLM

AI 人工智慧準備統治全世界 智慧新世代

NVIDIA 推出「Chat With RTX」可在 RTX 30、RTX 40 GPU 電腦本機運行大型語言模型

NVIDIA 推出「Chat With RTX」可在 RTX 30、RTX 40 GPU 電腦本機運行大型語言模型 - 阿祥的網路筆記本

想要在自己的電腦上佈建類似 ChatGPT 的聊天機器人服務嗎?若你使用的是 NVIDIA 的高階 GPU,不妨可以關注一下 NVIDIA 日前發佈了適用於 Windows 作業系統的「Chat With RTX」,只要使用的是 GeForce RTX 30 或 RTX 40 系列顯示卡,即可在本機運行 Llama 2 和 Mistral 兩種大型語言模型(LLM),並能回答關聯至應用程式內容的查 […]…

繼續閱讀