手把手教你快速搭建一個屬于自己的大模型聊天軟件(聊天app搭建)
在當(dāng)前AI大模型的熱潮中,零基礎(chǔ)的編程新手可能會覺得學(xué)習(xí)成本過高。然而,本文將打破這個障礙,無需任何編程基礎(chǔ),無需特殊網(wǎng)絡(luò),更無需花費一分錢。我將手把手地教你構(gòu)建自己的國內(nèi)聊天大模型。讓我們一起探索這個令人興奮的AI世界,你準(zhǔn)備好了嗎?
第一步:python環(huán)境準(zhǔn)備
下載并安裝python環(huán)境
https://www.python.org/ftp/python/3.12.0/python-3.12.0-amd64.exe
安裝成功
安裝成功! 測試一下,能否調(diào)用,同時按下win R(win就是開始菜單的那個鍵)
進(jìn)入命令行,輸入python –version,出現(xiàn)這樣的界面則表示成功安裝
查看python版本
第二步:安裝依賴
繼續(xù)在剛才打開的窗口執(zhí)行一下命令安裝依賴包
pip install gradio dashscope langchain –default-timeout=100 -i https://pypi.tuna.tsinghua.edu.cn/simple/ –trusted-host pypi.tuna.tsinghua.edu.cn
預(yù)計要運行個一兩分鐘
安裝依賴
第三步:創(chuàng)建一個請求的私有key
使用阿里賬號登錄以下地址https://dashscope.console.aliyun.com/apiKey
在API-KEY管理中創(chuàng)建一個API-KEY
創(chuàng)建key
因為當(dāng)前阿里的大模型“qwen-72b-chat”剛出不久,目前使用并不收費,所以不用擔(dān)心費用問題
第四步:執(zhí)行代碼
隨便找一個目錄創(chuàng)建一個txt文件,如我創(chuàng)建在D:dataai新建 文本文檔.txt,打開后將以下文本粘貼進(jìn)去
import os
import gradio as gr
from langchain_community.llms.tongyi import Tongyi
os.environ["DASHSCOPE_API_KEY"] = "申請一個自己的key"
llm = Tongyi()
llm.model_name = "qwen-72b-chat"
def echo(message, history, system_prompt, tokens):
str = llm.invoke(message)
yield str
with gr.Blocks() as demo:
gr.ChatInterface(
echo,
title="聊天機(jī)器人",
theme="soft",
retry_btn=None,
undo_btn="Delete Previous",
clear_btn="清除"
)
demo.queue().launch(server_name="0.0.0.0", server_port=8888)
注意:其中"申請一個自己的key"請改成第三步中你自己創(chuàng)建的私有key
將txt文件重命名成server.py
之后在剛才打開的管理臺運行命令
python D:dataaiserver.py
執(zhí)行命令
第五步: 開始聊天
瀏覽器請求以下地址http://localhost:8888/
就可以在顯示出來的窗口中聊天啦
大模型聊天界面
注意:建議使用google瀏覽器訪問效果更佳,不確定其他瀏覽器有沒有存在兼容問題
至此,一個最簡單的聊天大模型就部署好了!