白嫖AiStudio算力部署文心4.5開源大模型給Android調用

在上一篇文章《部署文心4.5開源模型給Android設備調用》,博主介紹瞭如何在自己的服務器部署文心4.5開源大語言模型,但對於沒有GPU服務器的同學來說,可望而不可即。所以本篇文章就介紹如何白嫖AiStudio上面的算力來部署文心4.5開源大模型給自己使用。

閱讀全文
快速從零部署一個DeepSeek-R1服務

這裏使用最簡單的幾條命令介紹如何部署DeepSeek-R1的服務,默認已經安裝了Anaconda,使用的是vllm框架,國內也可以輕鬆部署。

閱讀全文
夜雨飄零·千問:解答您無盡的疑問

夜雨飄零·千問啓動器是一款高效便捷的大語言模型啓動工具。支持Windows系統,需NVIDIA顯卡且驅動版本在516.01以上。啓動器內置多種規格的模型,適用於不同場景需求,最小僅需1G顯存。 界面分爲三部分:啓動頁面、聊天頁面和日誌頁面。啓動頁面用於選擇並加載模型文件(本地無時自動下載),點擊加載後無縫切換至聊天頁面進行互動;聊天頁面支持隨時提問,模型即時回覆提供智能對話體驗;日誌頁面記錄使用

閱讀全文