banner
JackYoung

JackYoung

生活、摄影、写作、代码。
github
bilibili
email

Pandora 本地化 GPT

分享一下最近 Github 上比較火的一個項目,雖然原理比較簡單,但是好用!

Pandora#

這個項目通過 api 中轉,實現在本地搭建網頁版 ChatGPT,也算是在曲線救國了。

安裝 - 本地 python 版#

按照作者的推薦先安裝好 python 環境,推薦大家使用 conda 來創建一個新環境。
conda create -n gpt python=3.7
接下來就可以安裝這個項目了,這個項目有兩個模式,一個是命令行,另一個是本地化網頁。

conda activate gpt
pip install pandora  # 這裡是命令行模式的
pip install pandora-cloud # 這個是網頁版

獲取 token#

這個項目是通過使用已註冊賬號的網頁登錄 token ,來實現本地化部署的。(當然也可以使用 API,不過對於我國內信用卡用不了的情況,暫時這個方法比較好。)
使用作者在這裡 搭建的服務獲取自己賬號的 token(先去官方登錄一下自己的賬號,然訪問這裡,可以獲取到自己的 access token),保存好自己的 token,據說可以使用一個月。

啟動#

回到命令行

pandora -t <token_file> # 即可啟動本地命令行版 chatGPT,雙擊 Enter 發送對話
pandora-cloud # 即可啟動網頁版,訪問 http://127.0.0.1:8018,使用 token 文件登錄就行

安裝 - Docker 版#

Docker 版本目前我只成功使用了命令行的

docker pull pengzhile/pandora
docker run -it -e PANDORA_ACCESS_TOKEN="token" -name pandora pengzhile/pandora

如果懷疑作者的代理 API 在自己本地被 ban#

使用 Cloudflare 做一下代理。

  • 登錄 Cloudflare
  • 進入Workers,點擊Create a Worker
  • 在新的界面貼入如下代碼
export default {
  async fetch(request, env) {
    const url = new URL(request.url);
    url.host = 'ai.fakeopen.com';
    return fetch(new Request(url, request))
  }
}
  • 點擊Save and deploy
  • 之後在使用 Docker 創建的時候,就可以使用如下參數:
docker run -it -e PANDORA_ACCESS_TOKEN="token" -e CHATGPT_API_PREFIX="https://your.worker.address" -name pandora pengzhile/pandora

可能是我 Mac 的問題,在用 Docker 創建網頁版服務的時候,我宿主機總是連不到容器內部,如果有大佬有解決方案麻煩告訴我一下。

image

載入中......
此文章數據所有權由區塊鏈加密技術和智能合約保障僅歸創作者所有。