一鍵運行大語言模型服務,搭建聊天應用

本文介紹了一個基於Qwen-7B-Int4模型的本地大語言模型聊天服務搭建方法。首先,需安裝GPU版本PyTorch及其他依賴庫。接着,在終端執行`server.py`啓動服務。該服務支持Windows和Linux系統,並在顯存要求較低的情況下(8G顯卡)可流暢運行。 此外,還提供了一個Android應用源碼,通過修改服務地址並使用Android Studio打開其中的`AndroidClien

閱讀全文
輕鬆快速搭建一個本地的語音合成服務

本文介紹了一種快速搭建本地語音合成服務的方法,使用VITS模型結構。首先需要安裝PyTorch環境和相關依賴庫。啓動服務時只需運行`server.py`程序。此外,還提供了Android應用源碼,並需修改服務器地址以連接到你的本地服務。文章末尾提示掃碼加入知識星球獲取完整源碼。整個過程簡單高效,無需聯網即可運行。

閱讀全文
識別準確率竟如此高,即時語音識別服務
2023-10-21 171 閱讀 語音 Pytorch 語音識別 人工智能

本文介紹FunASR語音識別框架的安裝配置和應用部署。首先,需安裝Pytorch及相關依賴庫,CPU版本可通過`conda install pytorch torchvision torchaudio cpuonly -c pytorch`命令完成;GPU版則使用`conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c p

閱讀全文
FunASR語音識別GUI界面應用

本文介紹了一個基於FunASR開發的語音識別GUI應用,支持本地音頻、視頻文件的識別及錄音識別。該應用包含短音頻、長音頻(含無時間戳和帶時間戳)識別功能,並能播放音頻文件。 安裝環境需PyTorch(CPU/GPU)、FFmpeg、pyaudio等依賴庫。使用時執行`main.py`,界面提供四個選項:短語音識別、長語音識別、錄音識別及播放功能。其中長語音識別分爲兩種模型,一種拼接輸出,另一種顯

閱讀全文