分類 部署文心4.5開源模型給Android設備調用 2025-07-05 127 閱讀 PaddlePaddle 大語言模型 人工智能 PaddlePaddle 大模型 在上一篇文章《文心4.5開源大模型的使用和部署》已經介紹瞭如何使用fastdeploy部署文心4.5開源大模型的,並且簡單調用了接口,本篇文章來介紹Android如何調用這個部署的接口,並實現對話。 閱讀全文 快速從零部署一個DeepSeek-R1服務 2025-04-05 394 閱讀 大語言模型 人工智能 大語言模型 DeepSeek vllm 這裏使用最簡單的幾條命令介紹如何部署DeepSeek-R1的服務,默認已經安裝了Anaconda,使用的是vllm框架,國內也可以輕鬆部署。 閱讀全文 基於大語言模型實現文本端點檢測 2025-01-18 409 閱讀 大語言模型 人工智能 語言模型 自然語言處理 本文介紹了使用大語言模型進行文本端點檢測的方法,以改進語音對話中的語音活動檢測(VAD)。通過訓練一個微調後的模型來預測句子是否完整,可以更準確地判斷用戶的意圖。具體步驟包括: 1. **原理與數據準備**:利用大語言模型的文本生成功能,基於預定義的數據集和特定格式進行微調。 2. **微調模型**:使用LLaMA-Factory工具進行訓練,並選擇合適的提示模板及優化後的數據格式。 3. ** 閱讀全文